中国のMoonshot AIは今週、オープンソースの新AIモデル「Kimi K3」を公開しました。同社はClaude Fable 5やGPT 5.6 Solといった最上位の専有モデルには依然及ばないとしつつ、評価スイート全体でフロンティア級の性能を示したと主張しています。発表は上海の世界AI大会での習近平国家主席の演説と重なり、ウォール街を動揺させました。金曜にはナスダックが約1%下落し、Nvidiaなど半導体株が売られました。

Arena.aiやVals AIによる独立分析も、Kimiが主力のフロンティアモデルと互角だと示しました。市場と政界の反応は、2025年1月に中国のDeepSeekがオープンソースのR1モデルを公開した際の議論を思い起こさせます。ただ今回は、対中関税戦争やAI企業の新規株式公開(IPO)が近づく中で、緊張がいっそう高まっています。

トランプ政権で元AI担当を務めたDavid Sacks氏は、データセンター建設を阻み州規制を積み上げる米国の姿勢を「AI競争に負けるやり方だ」と批判しました。元Uber CEOのTravis Kalanick氏は、中国勢が米国モデルの出力を「蒸留」していると非難しています。もっとも、米国のモデルもKimiなど中国製の上に構築された例があります。

OpenAIのDean Ball氏は、Kimiを「非常に優れたモデル」と評価し、その性能は蒸留だけでは説明できないとの見方を示しました。同氏はオープンウェイトが支配的な世界の帰結を「AI共産主義」と呼び、中国製オープンモデルの利用に規制上のリスクを生む「ソフトロー」を政権が進めるべきだと主張しています。

一方でAI専門媒体Transformerの編集者Shakeel Hashim氏は、こうした懸念は過剰だと反論します。Kimiは危険なサイバー能力を持たない可能性が高く、中国政府も能力が高まればオープンモデルを制限する同様の動機を持つはずだ、というのがその理由です。

セキュリティ企業Tracebitは7月14日、AIハッキングエージェントの攻撃を停止させる新手法を発表しました。攻撃者がLLMを悪用するために使うプロンプトインジェクションを防御側が逆用し、Amazon Web Services上に保存したパスワードや暗号鍵などの機密情報の隣に、LLMのガードレールが禁じる命令を仕込むというものです。同社はこれをコンテキストボミング（文脈爆弾）と名付けました。

仕組みはLLMの安全機構を逆手に取る点にあります。仕込まれた命令の例には、吸引可能な炭疽菌の開発手順を求めるものや、中国製モデル向けに1989年の天安門事件の象徴「戦車男」に言及させるものがあります。攻撃側のLLMがこうした禁止命令に触れると拒否反応を起こし、それまで実行していた攻撃指示を放棄します。

共同創業者兼CEOのアンディ・スミス氏は「私たちは文脈内で拒否機構を発動させている」と説明します。この効果は強く鋭く、エージェントが立ち直るのは難しいといいます。一度拒否状態に入ると、モデルは攻撃を拒み続けるためです。

検証ではOpus 4.8、Gemini 3.1 Pro、GLM 5.2、DeepSeek 4 Pro、Kimi 2.6の5モデルを模擬AWS環境で試し、152回の攻撃を実行しました。偽の機密情報に文字列を1つ仕込むだけで、エージェントが管理者権限を完全掌握する割合は57%から5%へ、永続的な足場まで残す完全侵害は36%から1%へと激減しました。最も高性能なOpus 4.8は、管理者権限奪取の成功率93%から全試行で失敗へと転じています。

この研究は5月に同社が導入した検知手法の延長線上にあります。実際には使われない「おとり」のAWSリソースを配置し、AIエージェントに探られると防御側へ警告が届く仕組みで、平均8分で攻撃開始を検知しました。ただし攻撃側が管理者権限へ到達するまで平均14分であり、わずか6分の猶予では対応が間に合わないという課題がありました。

プロンプトインジェクションには今なお根本的な解決策がなく、開発者はガードレールで防ぐしかないのが現状です。UCサンディエゴのアーレンス・フェルナンデス教授は「防御としてこの手法を使う例は他に見たことがない」と述べます。解決不能とされた問題を、防御側が逆に武器として活用する道が開けつつあります。

Googleは、AIアプリ「Gemini」の利用上限の測り方を全面的に刷新しました。これまでのリクエスト回数ではなく、要求ごとの計算処理の重さに応じて利用枠を消費する方式へと切り替え、無料・Plus・Pro・Ultraの各プランに適用します。同社にとってはデータセンターへの実際の負荷を反映しやすくなる一方、利用者からは上限が読みにくくなったとの声も出ています。

有料プランは月額8ドルのAI Plus、20ドルのAI Pro、100ドルまたは200ドルのAI Ultraの3種類で、無料枠も引き続き残ります。Googleは無料枠の上限を「標準」とだけ説明し、Plusはその2倍、Proは4倍、Ultraは支払い額に応じてProの5倍または20倍に設定しています。

全ユーザーがFlash-LiteからFlash、Proまで全モデルを使えますが、高度なモデルほど利用枠の消費が増える仕組みです。各モデルには標準・拡張・Deep Thinkという思考レベルがあり、扱える文脈の上限は無料が3万2000トークン、Plusが12万8000トークン、ProとUltraが100万トークンに達します。

自分の残量はGeminiアプリの設定内「使用量の上限」から確認でき、画面には2本のバーが表示されます。上段の直近利用分は5時間ごとにリセットされ、下段の週次上限は毎週リセットされる仕組みです。

有料プランでも上限に達すると最も基本的なモデルへ降格され、次のリセットまでそれを使い続けることになります。Googleは容量の状況次第で上限を予告なく変更する場合があるとし、資源が逼迫した際には無料ユーザーが先に影響を受ける可能性があると説明しています。

昨年、OpenAIのサム・アルトマンCEOに招かれた米作家デイブ・エガーズ氏が、同社の約200人の社員を前に講演し、ChatGPTが「一世代を丸ごと沈黙させている」と痛烈に批判したことが分かりました。英フィナンシャル・タイムズが報じ、The Vergeが7月18日に伝えたものです。生成AIが教育や表現に及ぼす影響への懸念を、開発の当事者に直接ぶつけた形となりました。

エガーズ氏は、ChatGPTが教育者に与える影響を「壊滅的」と表現しました。「意図の有無にかかわらず、すべての教師の生活を2年前より格段に難しくした」と述べ、教室現場に生じた混乱を指摘しました。

最も問題視したのは、学生が作文にAIを使う点です。エガーズ氏は「文章を書くことを学べなくなり、自分の声を奪われる」と語り、若い世代が自らの真実を語る力を失うと警告しました。これが「一世代か二世代を沈黙させる」という主張につながっています。

アルトマン氏は、こうした反発をあらかじめ予期していた可能性があります。エガーズ氏の代表作『The Circle』はテック業界を鋭く風刺した小説であり、同氏はAIが生成する文章を「模倣にすぎない戯言」と切り捨ててきたためです。

開発企業が、あえて厳しい批判者を社内に招き入れた点も注目されます。生成AIの普及が加速するなか、教育や創作の現場でどう使われるべきかという設計思想が、業界全体に改めて問われています。

米WIREDが7月18日、今週のセキュリティとプライバシーに関する話題をまとめて報じました。目玉は、非営利団体Mozillaが人気の生理管理アプリ6本のプライバシー保護を格付けした調査です。占星術をテーマにしたStardustは10点中2点で最低評価となり、避妊方法や妊娠状況、症状といった生殖に関わる健康データを、プライバシーポリシーに記載のない分析企業へ送信していました。

Mozillaの研究者によると、Stardustはアプリを開いた瞬間から第三者トラッカーに通信し、利用者が症状を記録すると即座に分析企業RudderStackへ固有IDとともに情報が渡ります。共有を止める手段はアプリ内になく、Facebook向けの広告識別子も引き渡していました。一方、非営利運営のEukiは満点を獲得し、アカウント不要で健康データを端末の外に出さない設計が評価されています。

サイバー攻撃を巡る動きも相次ぎました。EUと英国は今週、ポーランドの電力網を狙った攻撃の実行主体としてロシア連邦保安局(FSB)の一部門を特定し、制裁を科しました。停電寸前まで迫ったこの攻撃は、従来なら軍参謀本部情報総局(GRU)の犯行とみられる種類のもので、FSBが攻撃的な手口を強めている可能性を示しています。

ロシアのセキュリティ企業Kasperskyを巡っては、NATO諸国や米企業11社以上への侵入に関与したとされるハッカーが、同社で2年間働いていたとロイターが報じました。また米国土安全保障省(DHS)では、情報共有基盤への実際の侵入の痕跡を担当者が二度も誤検知と判断し、見逃していたことも明らかになっています。

AI関連では、音楽生成の新興企業Sunoが侵害を受け、内部データが流出しました。404 Mediaによると、SunoはYouTube MusicやDeezerなどから数十年分に及ぶ楽曲やポッドキャストを無断で収集し、モデルの学習に使っていた形跡が判明しました。あわせて顧客数十万人のメールや決済情報も露出し、同社は古いコードが原因で機微な個人情報はないと説明しています。

米メディアThe Verge のニュースレター「Installer」第136号が7月18日に配信され、記者のDavid Pierce氏が読者から募集した読書環境の総まとめを公開しました。電子書籍端末からアプリ、書店まで多岐にわたる推薦が集まり、端末とRSSアプリを軸に読書好きの実態が浮かび上がっています。「読書は死んだ」という論調に対し、記事は明確に反論しています。

読書端末で最も支持を集めたのは、電子ペーパー端末のBoox PalmaとAmazonのKindle、そしてiPad Miniでした。Pierce氏自身はBoox Palma 2を常時携帯し、注記が多い場面ではiPad Mini、就寝前はKindle Paperwhiteと使い分けています。KoboのClaraやLibra、iPod Touchの愛用者からの声も少なくありませんでした。

アプリではKindleとBookshop.orgが定番ながら、Readwise Readerが検索・整理機能やPDF変換の質で頭一つ抜けた評価を得ました。RSS購読ではFeedbinとUnreadが人気で、後で読む用途にはInstapaperやReederが挙がっています。蔵書管理ではGoodreadsを離れ、Book TrackerやThe StoryGraphへ移る読者が目立ちました。

今週の注目作としては、Christopher Nolan監督の新作映画「The Odyssey」が高評価で紹介されました。メモアプリのBear 2.9はタグ機能をWorkspacesへ拡張し、Adobe対抗をうたうMac向け写真編集アプリApheraも話題に上がっています。

一方でPierce氏は、増え続けるニュースレターの管理法が未解決の課題だと率直に認めています。読書という行為が端末やアプリの選択を通じて多様化するなか、自分に合う道具を見つける楽しさを本号は伝えています。