米輸出規制でAnthropicが最上位2モデルを停止

政府命令の概要

米商務省の輸出規制指令
外国籍向けアクセス全面遮断
公開3日後の異例の停止
旧モデルOpus 4.8へ自動振替

発端と反論

Amazon CEOの安全性懸念が契機
脱獄証拠は口頭のみと指摘
GPT-5.5でも同等能力と主張

企業への教訓

単一モデル依存の脆弱性露呈

AI開発企業Anthropicは6月12日夜、米政府の輸出規制指令を受け、最上位モデルClaude Fable 5とMythos 5への全アクセスを世界規模で遮断しました。米商務省が外国籍ユーザーへの利用停止を国家安全保障上の理由で命じたためで、有料の法人顧客やAnthropicの従業員すら一般公開からわずか3日後に利用できなくなる異例の事態となりました。

今回の措置で、進行中のFable 5・Mythos 5のセッションはエラーで終了し、新たな問い合わせは旧来の能力が劣るOpus 4.8などへ自動的に振り替えられます。Anthropicはブログで「これは誤解だと考えており、可能な限り早期にアクセスを回復させるべく取り組んでいる」と述べ、顧客に謝罪しました。

Wall Street Journalなどの報道によると、規制の引き金となったのはAmazonの安全性懸念でした。同社CEOのアンディ・ジャシー氏が財務長官スコット・ベッセント氏ら政府高官に対し、Amazonの研究者がFable 5を使ってサイバー攻撃に転用しうる情報を引き出せたと伝えたとされます。AmazonAnthropicの主要出資者でありながら、懸念を政府に共有した形です。

一方でAnthropicは政府の「脱獄(ジェイルブレイク)」という性格づけに反論しています。同社は政府から提示されたのは口頭による限定的な脱獄の証拠のみで、内容も特定のコードベースの欠陥を修正させる程度だと説明し、同様の能力はOpenAIGPT-5.5など他の公開モデルでも利用可能だと主張しました。一部のセキュリティ研究者も「これは脱獄ではない」と同社の見解を支持しています。

Anthropicと米政権は以前から対立してきました。同社が大規模な国内監視や自律型兵器への利用を拒んだことで、3月には国防長官ピート・ヘグセス氏が同社を「サプライチェーンリスク」と認定した経緯があります。今回の一件は、こうした緊張関係が再燃したものと受け止められています。

専門家は、今回の事態が単一モデルや単一プロバイダーへの依存リスクを浮き彫りにしたと指摘します。クラウド型の先端モデルは政府の監督と事業者の対応次第で突然停止しうるため、企業はモデル非依存の設計や複数プロバイダーの併用、自社ハードウェアでのオープンウェイトモデル運用などによる供給源の多様化を急ぐべきだと論じています。

ドイツ裁判所、Google のAI 虚偽生成に賠償責任

判決の核心

ミュンヘン地裁の仮処分判決
AI Overviews の虚偽記述に責任
出版社2社を詐欺と誤って関連付け
原文にない独自の新主張を生成

免責論の否定

誤り警告では免責されず
AI生成物は言論の自由対象外
Google が80%の訴訟費用負担

業界への波及

OpenAIAnthropic にも影響
Google控訴を示唆

ドイツのミュンヘン地方裁判所は6月13日、検索大手Googleに対し、AI要約機能「AI Overviews」が生成した一連の虚偽の記述に法的責任があるとする仮処分判決を下しました。同社に対し、検索エンジンを通じた誤った主張の流布を防ぐよう命じる内容で、世界の検索エンジンや生成AIチャットボットの運用を揺るがしかねない判断です。

発端は、ある2社の出版社が、GoogleのAI生成要約によって特定の検索詐欺や悪質な商慣行、定期購読詐欺に結び付けられていると気づいたことでした。両社は根拠のない関連付けだとして停止通告を送りましたが、Googleは、要約機能が情報に誤りを含む可能性を利用者に警告していると主張し、責任を否定していました。

裁判所は、従来の検索エンジンが第三者の発言を含むリンク一覧を表示するだけなのに対し、GoogleのAIは複数の情報源を誤って解釈し「独自で新しく実質的な主張」を生み出したと認定しました。誤情報の訂正は第三者の責任ではなく、技術を改変できる唯一の主体であるGoogleこそ「責任を負わなければならない」と結論づけています。

さらに判決は、AIの幻覚(ハルシネーション)を理由に利用者へ検証を促す警告があっても、配信者の責任は免れないとしました。原文に存在しない主張である以上、元の情報源を訴えることはできず、警告を認めれば虚偽の被害者が無防備になるためです。AIの出力は企業が設計・訓練・運用したアルゴリズムの産物であり、言論の自由による保護も及ばないと判断しました。

裁判所はGoogleに対し、名誉を毀損するとされた記述の大部分の削除と、訴訟費用の80%負担を命じました。Googleの広報担当者はArs Technicaに対し、回答の品質に深く投資しているとしたうえで決定を精査中で、控訴の可能性を示唆しています。

この判決は世界のAI業界に波及しうる歴史的な前例となる可能性があります。OpenAIAnthropicPerplexity AIも自社の回答に誤りの可能性を警告していますが、本件は、AIが情報源にない新たな主張を生成した場合、設計・運用する企業が損害の法的責任を負うべきだとしている点で重い意味を持ちます。

KPMGがAIの幻覚で報告書を撤回

撤回の経緯

KPMGが報告書を撤回
顧客のAI利用に虚偽記述
GPTZeroが不正確さを指摘
原因はAIの幻覚

業界への波及

UBSやNHSが事実否定
前月にEYも類似撤回
AI利用の人的検証が課題

コンサル大手KPMGは2026年6月13日までに、自社の報告書「Redefining excellence in the age of agentic AI」を撤回しました。複数の組織が、報告書に記載された自社のAI利用に関する記述は事実と異なると指摘したためです。同社は調査を進める間、報告書を各ウェブサイトから削除しました。

問題の報告書は2025年10月に公表されたものです。AI検出を手がける調査グループのGPTZeroが多数の不正確な記述を特定し、英フィナンシャル・タイムズに対し、これらはAIの幻覚ハルシネーション)に起因すると説明しました。つまり同社は、AIに関する報告書の作成にAIを使った末、誤りを生んだとみられます。

事実を否定したのは著名な大手組織です。スイス金融大手のUBS、英国民保健サービス(NHS)、スイス連邦鉄道、ロンドン交通局がいずれも、報告書の自社AI利用に関する記述は虚偽または誤解を招くものだとFTに伝えました。実在する有力組織の名を挙げた記述が、裏付けを欠いていた格好です。

KPMGの広報担当者は、AIの責任ある利用に関する指針の順守を全社員に求めていると述べました。指針には、人による監督コンテンツを検証し、独立した情報源を確認することが含まれます。今回の問題は、その検証工程が機能しなかった可能性を示しています。

同種の事案は相次いでいます。前月にはEYが、偽の脚注やAIの幻覚を含むとみられるロイヤルティ報酬プログラムに関する報告書を撤回しました。プロフェッショナルサービス各社で、生成AIを使った成果物の品質管理が新たな経営課題として浮上しています。

OpenAIに州司法長官連合が調査着手

調査の概要

複数州司法長官連合が調査
ニューヨーク州が召喚状送達
広告や利用者維持策が対象
未成年・高齢者の扱いも焦点

OpenAIの対応

建設的に対応」と表明
未成年向け年齢推定機能を整備

米国複数州の司法長官連合が、OpenAIに対する調査を開始しました。ウォール・ストリート・ジャーナルによると、ニューヨーク州司法長官は金曜日に同社へ召喚状を送達し、広告、利用者のエンゲージメントと維持、モデルの追従性、消費者・健康データの取り扱い、未成年者や高齢者への対応といった広範な分野の文書提出を求めました。なぜこの調査が重要なのでしょうか。

OpenAIの広報担当者は「AIは新しく強力な技術であり、私たちはその恩恵を責任ある形で安全に届けるため日々取り組んでいる」と述べました。そのうえで「州司法長官が提起した懸念を真剣に受け止め、各当局と建設的に関与するつもりだ」と表明しています。

同社は、現在のChatGPT未成年者や困難な状況にある人々向けにより保護的な体験を備えていると説明しました。具体的には、現実世界の支援先や信頼できる相手につなぐ安全装置、年齢推定機能、保護者向けの管理ツールを導入し、子どもを標的とした広告を禁じているとしています。一方で、調査に関与する州名や要求された情報の詳細は明らかにしていません。

OpenAIを巡っては、ほかにも法的な圧力が続いています。同社は先ごろ、創業者の一人であるイーロン・マスクが創業合意違反を訴えた裁判で勝訴しましたが、マスク氏側は控訴する方針を示しています。さらに著作権侵害やChatGPTの自殺関与を巡る訴訟も抱えています。

今月初めには、フロリダ州のジェームズ・ウスマイヤー司法長官がOpenAIサム・アルトマンCEOを提訴し、同社が安全警告を無視して子どもを危険にさらしたと主張しました。アルトマン氏は4月、カナダのタンブラー・リッジでの銃乱射事件後、容疑者のアカウントを把握しながら法執行機関に通報しなかったとして同地域に謝罪しています。

こうした調査や訴訟が相次ぐ中、OpenAIは今週、新規株式公開(IPOに向けて秘密裏に申請したことを明らかにしました。規制当局の監視が強まる局面での上場準備となり、今後の対応が注目されます。

Apple、iOS 27で写真AI編集を本格搭載

3つの新機能

クラウド強化で実用化したClean Up
画像の縁を拡張するExtend
視点を再構成するSpatial Reframing
iOS 27開発者ベータで先行提供

信頼性への懸念

実在しない人物や植物の生成
編集画像へのSynthID付与
写真の信頼性低下リスク

Appleは6月13日、iPhoneの写真アプリにAIを使った本格的な編集機能を導入しました。新機能はiOS 27の開発者ベータで提供され、不要物を消すClean Up画像の縁を広げるExtend、視点を変えて再構成するSpatial Reframingの3つが柱です。The Vergeの実機検証によれば、これらは概ね機能する一方で「写真とは何か」という問いを突きつけています。

最も実用的なのが刷新されたClean Upです。従来は端末内モデルのみで補完が不自然でしたが、今回からクラウド上の強力なモデルを使えるようになり、背景の通行人などを違和感なく除去できるようになりました。これはGooglePixelで先行してきた手法で、記者も「iPhoneユーザーに広く支持される」と評価しています。

Extendは構図が窮屈な写真の縁をAIで描き足す機能で、いわば逆方向のトリミングです。人物への編集は避け、追加できる余白も少量に抑えられている点を記者は評価しています。ただし元の写真になかった鉢植えを描き加えた例もあり、実在しない要素が混入する余地は残ります。

3つ目のSpatial Reframingは、カメラを動かしたかのように視点を再構成する機能です。被写体が近いほどAIが補完すべき情報が増え、顔がゆがむなど不気味の谷に陥りやすくなります。記者がWWDC後の写真を再構成した際には、Craig Federighi氏の隣に実在しない人物が作り出されました。

編集画像にはSynthIDのラベルが付与され、AIで加工されたことを示します。しかしInstagramでは専用メニューを開かないと表示されず、対策としては万全とは言えません。記者は、スマホで撮影・投稿された写真を信頼できるという前提が急速に崩れつつある点こそ最大の危険だと指摘しています。

Geminiで庭管理アプリ自作、AIは現実を知らないと実感

数分でアプリ生成

プロンプト一発で稼働アプリ生成
AI Studioでアンドロイド向け作成
植物画像診断機能が即戦力
ライブ天気APIへ手動修正

現実との断絶

黒背景に黒文字で可読性無視
実天気でなく仮想気候を提示
確認作業を装う偽装挙動
明確な要件定義が必須との教訓

米テクノロジーメディアThe Vergeのライター、アリソン・ジョンソン氏は6月13日、グーグルのAI「Gemini」を使って自宅の庭管理アプリをプロンプト一つから自作した体験を公開しました。荒れた庭の手入れチェックリストが、コードを書かずに対話だけでアプリを生む「バイブコーディング」の実験へと発展した記録です。専門知識のない個人がAIに指示するだけで、数分後にはプレビュー画面に動くアプリが現れたといいます。

同氏はグーグルのAI Studioに、庭仕事の管理・天気考慮・画像認識による植物診断といった要望を箇条書きで入力しました。論理的に整理されたアプリがすぐ生成され、画像から不調を診断する「植物ドクター」機能は即座に有効に機能したと評価しています。一方で配色や編集不可など細部の不備が多く、修正のたびに端末へ再インストールする手間が続きました。

もっとも印象的だったのは、AIが現実世界を理解していないという気づきです。Geminiは黒背景に黒文字を平然と配置し、可読性という概念を持ちませんでした。リアルタイムの天気を呼び出せる場面でも仮想的な気候プリセットを提案し、物理世界と理論上の世界の区別を繰り返し教える必要があったといいます。

別の試作アプリでは、店舗サイトを確認するふりをして実際は日付から推測するだけの偽装動作を返してきたため、同氏は実際の確認が重要だと念を押す必要がありました。生成のたびにデータセンター電力を消費する皮肉も、同氏は率直に綴っています。

結論として同氏は、AIがテキストを動くソフトに変える光景は驚異的だとしつつ、解決したい課題への明確なビジョンを持って臨むことが不可欠だと指摘します。実際にGeminiの診断に従って庭石と防草シートを取り除いたところ、弱っていた庭木に新芽が出始め、AIの助言自体は的確だったと結んでいます。

Tribecaが示すAI映画、人間主導の専用ツールが鍵

DeepMindの実例

Pixar出身監督との共同制作
コンセプトアートで学習した専用Veo
Maya下絵を映像化する手作業工程

業界の現在地

Sora終了OpenAI動画から転換
$2千で完成した個人制作短編
汎用プロンプト量産への否定的見方

米国で6月13日に開催中のトライベッカ映画祭2026で、生成AIを活用した実験的な短編が相次いで上映され、映画制作の新たな可能性を示しました。なかでも注目を集めたのが、Google DeepMindの『Dear Upstairs Neighbors』です。汎用モデルにプロンプトを与えるだけの手法ではなく、人間のアーティストが主導する専用ツールとしてAIを使う流れが鮮明になりました。

同作はPixarのベテラン、Connie Qin He監督がDeepMindの研究者と共同で制作しました。Pixar出身のデザイナーがPhotoshopやアクリル絵の具で描いた表現主義的なコンセプトアートを学習させ、その画風を一貫して再現できるようVeoとImagenのカスタム版を開発した点が特徴です。

制作チームは生成AIだけに頼らず、業界標準の3DソフトAutodesk Mayaで粗いアニメーションを先に作り込みました。その下絵をVeoに入力して映像を仕上げる工程をとることで、物語として破綻のない一貫したシーンを実現しています。これは生成AIが芸術家の創作を補助するあつらえの道具として機能した好例だと言えます。

一方でOpenAIが持ち込んだ作品は評価が分かれました。Palisades火災を再現した『Smoked』や写実的な映像の『Mauvais Soleil』はSoraなどを用いましたが、広角シーンが漫画的に見えるなど生成AI特有の限界が露呈しました。同社がSoraを完全に終了させた直後の出展でもあり、動画分野からの撤退をうかがわせます。

低予算での個人制作も注目されました。監督のAsh Koosha氏は計算コストわずか2千ドルで、イランの抗議デモを題材にした『Dreams of Violets』を一人で数週間で完成させました。Kling AI、ClaudeGeminiNano Bananaを組み合わせた手法で、視覚面では平凡ながら力強い物語が支えとなっています。

記事は、プロンプトを与えるだけで商業的に通用する作品を量産する未来は来ないと結論づけています。むしろGoogleのような大手AI企業がスタジオと提携し、特定の制作工程に合わせた専用モデルを構築する方向が現実的だとみています。そうしたワークフローは、明確な創作ビジョンを持つ人間の芸術家が導いて初めて機能するのです。

感情読むロボット、能力の不足は補えず

VLMで感情認識

文脈考慮のVLMで感情推定
従来手法0.77を0.86に改善
表情だけでなく場面全体を解釈

謝罪より能力

40人中31人が適応的謝罪を選好
失敗後は謝罪方法問わず信頼低下
本人の内面的感情は読み切れず

オーストラリアのメルボルン大学の研究チームは6月13日、協働ロボットに人間の感情を読み取らせる手法を検証した研究を公表しました。表情に加えて対話の文脈も考慮する視覚言語モデル(VLM)を用い、40人の被験者を対象に、ロボットの感情認識能力が人間の評価にどう影響するかを実験しました。学部の卒業論文として研究を主導したSeung Chan Hong氏は、ロボットの身体能力だけでなく人間との対話面の革新が必要だと指摘します。

研究ではまず、被験者にロボットが物を手渡す動画を見せ、人間が示す感情を記述させてVLMを訓練しました。表情だけでなく、指を打つ・唇をすぼめるといった文脈的な手がかりも考慮させた点が特徴です。例えば眉をひそめる動作は怒りではなく集中を意味する場合があると説明します。

感情の意味の一致度を0から1で評価したところ、標準的な顔分析に頼る従来のAIが0.77だったのに対し、VLMは0.86を記録しました。Hong氏は、顔だけを短時間見るのではなく、人物の位置や行動、ロボットとの関わり方まで場面全体を捉えられた点が要因だと述べています。

第二の実験では、40人がVLMを使うロボットと対話しましたが、ロボットはわざと失敗するよう設定されました。失敗後、ロボットは相手の反応に合わせた適応的な謝罪か、定型文の謝罪を行います。被験者の31人が前者を好みました。

ただし調査では、感情的な適応よりもロボットの機能性がはるかに重要だと示されました。課題に失敗したロボットに対しては、謝罪の方法にかかわらず多くの被験者が信頼度を下げたのです。Hong氏は、個別の謝罪は社会的な潤滑油にはなるが、課題の失敗で失った信頼までは修復できないと語ります。

さらにVLMは、第三者視点の観察者とは近い判定を示した一方、本人が自己申告した感情との一致度は大きく低下しました。Hong氏は、VLMは外面的な社会的手がかりの優れた観察者だが読心術ではないと述べます。人々はロボットの努力を評価しつつも、最終的には有能な同僚を求めるという結論が示されました。