AI帝国の危険性と信じるコスト

ジャーナリストのカレン・ハオ氏は、著書「AI帝国」で現代のAI産業、特にOpenAIを「帝国」と表現しました。その背景には、「人類への利益」というAGIへの熱狂的な信仰があると指摘。この信念が、速度や規模の拡大を優先させ、多大なコストを生んでいると分析しています。

ハオ氏は、OpenAIが「勝者がすべてを得る」という競争を定義した結果、速度第一主義が生まれたと分析。効率性や安全性よりもスピードが優先され、既存技術に計算資源を投入するという安易な道が選ばれたと指摘しています。この手法が業界全体の基準となってしまったのです。

この開発競争には天文学的なコストが伴います。OpenAIは2029年までに1150億ドルの資金を使う見通しですが、それ以上に問題なのは社会的な被害です。雇用喪失や環境負荷の増大、発展途上国のデータ作業者への搾取など、その拡大は多大な代償を支払っています。

しかし、ハオ氏はスケーリング以外の道もあったと指摘します。アルゴリズムの改善も進化の方法です。その好例がGoogle DeepMindのAlphaFoldです。特定目的に特化し、科学的なブレークスルーをもたらした一方で、LLMのような有害な副作用を最小限に抑えています。

最大の危険は、その「使命」に酔いしれて現実感覚を喪失することです。製品の人気を「人類への利益」と混同し、被害を過小評価している。ハオ氏は、自らの信念に囚われ、現実から目を背けることの危うさを強く警告しているのです。