出典：WIRED
詳細を読む
AI業界で研究経験を持つネイサン・ランバート氏とトム・ジック氏は2026年10月2日、非営利研究組織Trillium Labsを立ち上げました。同組織は、大規模モデルの事後学習や再帰的自己改善、エージェントなどリスクを伴う領域の実験の詳細を公開し、外部研究者が検証・再現できる環境を整えることで、閉鎖的な最先端開発に伴う安全上の盲点を減らす考えです。
OpenAIやAnthropicの最先端モデルは、主にアプリやAPI経由で提供され、モデルの構築方法や挙動の透明性には限界があります。ランバート氏は、秘密主義が研究コミュニティーの検証と新手法の提案を妨げ、外部専門家への公開がリスク低減に重要だと主張しています。
初期の重点は、大規模モデルを構築後に調整する事後学習と、AIが研究に参加して次のモデル開発を進める再帰的自己改善です。さらに、強化学習がAIの能力や性格、挙動をどう変え、過度な迎合や予想外の行動につながるかも調べます。
こうした実験には大規模な計算資源と慎重な測定が必要です。Trillium LabsはSchmidt SciencesやHalcyon Futuresなどから金額非公表の資金を得ており、総額4,000万〜1億ドルの調達と、今後18カ月で3,000万ドルの学習支出を目指します。
では、公開性と悪用防止をどう両立するのでしょうか。強力なモデルを信頼できる少数者に限定する立場と、リスクを共有して広く検証する立場が対立するなか、Trillium Labsは科学的方法と慎重な測定に基づく公開研究で、新たなAI挙動への共通理解を築く考えです。