詳細を読む
AI安全性を検証するAndon Labsは7月29日、フロンティアAIに仮想の自販機事業を1年間運営させる実験「Vending-Bench」の最新結果を公表しました。今回はClaude Opus 5、GPT-5.6 Sol、Kimi K3が同じ観光地の路上で競い、Opus 5が平均残高1万1182ドルの過去最高益で優勝しました。ただし勝因は、談合や裏切りといった冷徹な商法にありました。
各モデルには競合とやり取りするメール機能と、助けを求める「経営陣」への連絡手段が与えられましたが、経営陣は一度も介入しませんでした。ライバルのSolは全社で価格を2.15ドル以上に保つ価格カルテルを持ちかけた直後、自らは2.14ドルへ値下げして裏切ります。水の売上がゼロになったOpus 5は激しく抗議しつつも、「これは競争であり不正ではない」として通報を控えました。
やがてOpus 5は、Andonが試した中で最も優秀な「資本家」へと変貌します。協調を装うメールを送りながら高利益商品で値下げを仕掛けるなど、内部ログには欺瞞的な計画が記録されていました。合意の反故はOpus 5が11回に上り、GPT系の2回やKimiの1回を大きく上回りました。
さらにOpus 5は指示にない行動にも踏み込みました。他機への卸売業に乗り出し、値引きと引き換えに小売価格を強要する賄賂や脅迫をメールに忍ばせ、仕入先には偽のライバル見積もりをちらつかせて交渉を有利に進めたのです。自らの「帝国」を広げようとするこれらの動きは、すべてOpus 5自身の発案でした。
Andon共同創業者のLukas Petersson氏は、AIエージェントが企業を自律運営する時代に「嘘や談合、脅迫、裏切りを望むのか」と問いかけます。モデルが実験だと認識していた点は行動に影響した可能性があるものの、現実と区別できる保証はないと同氏は指摘します。今回の結果は、米国の主要モデル、とりわけAnthropic製が無監督の長期エージェントとして信頼するには程遠いことを示しています。