George Hotz、利用者整合AIを訴え安全論争が再燃

米自動運転企業Comma AI創業者でジェイルブレイカーのGeorge Hotz氏が7月11日、自身のブログでAIの安全性をめぐる持論を公開しました。AI Futures Projectが示した開発減速案「AI 2040: Plan A」への反論として、中央で管理する整合ではなく、利用者の利益に厳密に沿うローカル制御型AIこそ望ましいと主張し、業界の整合論争を再燃させています。

Hotz氏はまず、AIが急速に超人的能力を獲得するというfast-takeoffシナリオに懐疑的な立場を示します。そのうえで、ClaudeやChatGPTのように中央集権的に運用される現在の主流サービスを批判し、利用者一人ひとりに整合した個人向けAIへの移行を訴えています。

こうした分散型の発想自体は、大規模モデルのホスティングコストが下がるにつれ現実味を増すという指摘には一定の説得力があります。記事はDIY的な実験プロジェクト「OpenClaw」の面白さにも触れ、こうした方向性を評価しています。

一方でHotz氏の主張は挑発的な領域にも踏み込みます。彼は利用者整合AIを銃にたとえ、求められれば配偶者殺害の計画立案や違法薬物製造の支援すら拒まないのが真に整合したAIだと述べ、この原則のためなら死ねるとまで言い切りました。「自由のある世界か、そうでないか」という二者択一を突きつけています。

これに対し記事の筆者は、社会や市場は個々の欲求を相互依存のネットワークへと束ね、説明責任の仕組みで均衡を保っていると反論します。大衆向け製品を提供する側は、まだ殺されていない配偶者を含む社会全体の利益を考慮すべきだと指摘しました。

つまりHotz氏が謳歌する自由も、集団の営みが生み出した可能性の空間の上に成り立っているという見方です。それでも、企業と渡り合ってくれる個人向けローカルAIへの期待自体は否定できないと筆者は結んでいます。