OpenAI、AI進歩の共通指標に予測精度を提案

提案の狙い

進歩測定に困惑度を提案
研究所間の共通指標を目指す
安全基準と開発上限に活用
OpenAIが学習データを公開

指標の限界

値の低下と能力向上が連動
比較にはデータ調整が必要
実務能力を直接測れない
監視技術の進展も条件

OpenAIのチーフサイエンティスト、ヤクブ・パチョツキ氏は、AIの進歩を測る共通指標として「困惑度」を使い、企業間の安全基準や開発上限の設定につなげる案を示しました。困惑度はモデルが次のトークンをどれほど正確に予測するかを表し、値が低いほど予測精度が高い指標です。OpenAIは自社モデルの学習前段階の測定値も公表し、業界横断の議論を促しています。

同氏によると、下流の能力を測る既存ベンチマークは、モデルの進化に伴って陳腐化しやすい一方、事前学習の困惑度は進歩を継続して追える可能性があります。OpenAIの観測では、GPT-3.5の対数困惑度は約0.99、GPT-4は約0.91で、0.8を下回る水準ではサイバーセキュリティや数学の能力が現れたといいます。

パチョツキ氏は、困惑度などの指標に基づく共通の開発上限を設け、AIの挙動を理解・監視する能力が具体的な基準に達するまで、各社が上限を越えない枠組みを提案しました。AI企業がモデル評価やレッドチーム検証、安全性に関する透明性の共通ルールを整えることも求めています。

ただし、困惑度を研究所間で比べるには、評価データや学習データの違いを調整する必要があります。また、この値は実際に重視するタスクの性能を直接示さず、事前学習以外の手法による能力向上も捉えきれません。

それでも同氏は、困惑度が長年にわたりモデルの一般能力向上を追ってきた実績を重視します。指標の限界を踏まえて他の測定方法と組み合わせ、AIの進歩と監視能力の両方を見ながら開発ペースを調整する共通枠組みを目指す考えです。

米大手銀行、外部AIエージェントの利用に警告

銀行が利用条件を変更

Wells Fargoが新規約を導入
JPMorgan Chaseなども制限
認証情報の共有に警告

利用者に残る責任

誤操作も利用者負担の恐れ
銀行は自社AIの開発を継続
Amexは補償策を検討

米国のWells Fargoは、顧客が外部AIエージェントを使う場合の責任を明確にする新規約を導入します。オンライン操作を代行するAIが誤注文や不適切な取引をした場合、利用者自身がリスクを負うと警告しました。

金融機関の対応は広がっています。JPMorgan Chaseは認証情報を使ってログインする外部エージェントを規約で禁止し、Bank of Americaも顧客にログイン情報を共有しないよう呼びかけました。CitibankとPNCも規約に警告を盛り込んでいます。

AIエージェントは買い物などを自動化できますが、意図しない注文や資金移動が起きた際、販売店、AI開発元、銀行のどこが責任を負うのかは不明確です。銀行は利用者が被害を受ける事態を見越し、普及が限定的な段階から対策を進めています。

一方で、銀行は外部製品を警戒しながら、自社のAI活用を進めています。Wells Fargoは生成AIによる質問応答ツールを提供し、Bank of AmericaやCitigroupも社内向けエージェントを開発しています。

American Expressは、AIによる注文ミスについて、販売店から返金されない場合にカード会社が補償する仕組みを将来導入できるか検討しています。外部エージェントを使う際は、認証情報や操作権限を渡す前に、誤操作時の責任と補償条件を確認する必要があります。

データセンター反発、巨大化が地域負担に

地域に及ぶ影響

電力需要が料金と送電網を圧迫
水資源や騒音への懸念
超大型施設の建設加速

企業の対応

自治体交渉での秘密保持を縮小
電力設備費の負担を表明
冷却方式の変更を提案

問われる開発の規模

AIの便益と環境コストの隔たり
公共利益を軸にした技術開発

ジャーナリストのパリス・マルクス氏は新著『Hyperscale』で、生成AI向けデータセンターの急拡大が地域社会や環境に与える影響を論じています。TechCrunchのインタビューで同氏は、電力や水の需要、騒音など生活に直結する負担が、党派を超えた反発につながっていると説明しました。データセンターは、巨大テック企業への不満が目に見える形で表れる場所になっています。

同氏が挙げた事例では、アイルランドのデータセンターは2025年に国内電力の23%を消費しました。チリでは水資源への圧力が地域の懸念となり、オレゴン州ザ・ダレスではGoogleの施設が市の水の29%を使っていたことが後に明らかになりました。こうした影響は全国平均では捉えにくく、建設地ごとの資源事情が重要です。

Microsoft、Amazon、OpenAIは自治体との交渉で秘密保持契約を使わない方針を示し、企業側は電力インフラ費用の負担や冷却方式の変更も提案しています。マルクス氏は、情報公開は住民にとって有益だとしつつ、こうした対応は反発を受けて進んだ面があると指摘しました。また、水を循環させる冷却方式は水使用量を抑える一方、冷却により多くの電力を要する可能性や、冷媒漏出への懸念も残ります。

マルクス氏は、問題の核心をデータセンター一般ではなく、施設の規模と建設ペースに見ています。生成AIが約束した経済・生産性面の便益が十分に見えない中、電力や水、排出への負担が膨らめば、社会的な納得は得にくくなります。同氏は、技術開発を大手民間企業だけに委ねず、公共の利益を重視した選択肢を育てる必要性も訴えました。

『アイザック』開発元、AI楽曲を削除

発覚から削除まで

Steamで低評価レビュー相次ぐ
ゲーム内の楽曲にSunoの記録

開発者側の説明

マクミラン氏は使用を知らず
Nicalisが数時間内に更新

開発時の開示

Steamは生成AI利用の開示を要求
当該楽曲の記載は見当たらず

ゲーム『The Binding of Isaac: Repentance Plus』で生成AIの楽曲が使われていたと判明し、プレイヤーの低評価レビューが相次ぎました。開発元のNicalisは発覚から数時間以内にゲームを更新し、問題の楽曲ファイルを削除しました。作品への批判が集まった背景には、生成AIの利用そのものに加え、利用の開示が確認できなかったことがあります。

プレイヤーは、グランド・セフト・オートを題材にしたゲーム内区画の音楽ファイルを調べ、Sunoのメタデータを発見しました。メタデータはSuno上の楽曲に結び付いていたと報じられています。その後、Steamで数日間にわたりレビュー爆撃が続きました。

シリーズの制作者エドマンド・マクミラン氏はXで謝罪し、最新バージョンにAI音楽が使われていたとは知らなかったと説明しました。NicalisもXで更新を告知し、生成された音楽ファイルを取り除いたとしています。

Steamでは開発者に対し、開発過程で生成AIをどのように使ったか開示するよう求めています。しかし、Nicalisがこの音楽について記載していた形跡は見当たらないと報じられました。削除後もSteam上の評価は「圧倒的に不評」のままで、回復には至っていません。