ポリシー（政策・規制）に関するニュース一覧

米OpenAIは2025年10月、AIの悪用を阻止するための最新レポートを公表しました。2024年2月からこれまでに、同社の利用ポリシーに違反した40以上の悪意あるネットワークを排除したと報告しています。AIが悪用される事例が増える中、同社は安全性を確保するための取り組みを強化しています。

阻止対象は国家レベルの脅威から一般的な犯罪活動まで多岐にわたります。具体的には、権威主義体制が人口を制御したり他国を強制したりする目的でAIを利用する事例や、詐欺、悪意あるサイバー活動、そして秘密裏の影響工作などが含まれています。

脅威アクターの動向として、彼らはAIによって全く新しい攻撃能力を獲得しているわけではないと分析されています。むしろ、既存の攻撃手法（古いプレイブック）にAIを「ボルトオン」することで、活動をより高速化・効率化させている傾向が顕著です。

OpenAIは、ポリシー違反が確認された場合、当該アカウントを即座に停止する措置を講じています。さらに、悪用に関する知見やデータを提携パートナーと共有することで、業界全体のセキュリティ対策と防御策の改善を推進し、一般ユーザーの保護強化に努めています。

ステルススタートアップAugmented Intelligence（AUI）は、エンタープライズ向けAIエージェントの信頼性を劇的に高める基盤モデル「Apollo-1」を発表しました。従来のLLMが苦手としていた、タスクの確実な実行という課題を克服するため、独自開発のハイブリッドアーキテクチャを採用し、ベンチマークで圧倒的な性能差を示しています。

従来のLLMは、チャットや探索的な対話では優れた能力を発揮しますが、企業が求める複雑なタスクを確実に実行する能力が不足していました。AIエージェントの性能を測るベンチマーク「Terminal-Bench Hard」では、現在の最高モデルでも成功率は30%台に留まり、ビジネスルールが求められる場面で信頼性に欠ける点が大きな課題でした。

Apollo-1は「ステートフル・ニューロ・シンボリック推論」というハイブリッド構造に基づいています。これは言語の流暢さを担うニューラル層と、意図や制約といった構造化された論理を担うシンボリック層を統合し、タスク実行における「確実性（Certainty）」を保証するためのものです。

Transformerモデルが次のトークンを確率的に予測するのに対し、Apollo-1は会話の中で次に取るべき「アクション」を予測します。この構造により、エンコーダが自然言語をシンボリックな状態に変換し、決定エンジンが次の行動を決定するという、閉じた推論ループを実行。統計的な予測ではなく、決定論的な動作を実現しています。

この決定的な動作は、企業ポリシーの遵守において極めて重要です。例えば、銀行が「200ドル以上の返金には必ずID確認を義務付ける」といった制約を、Apollo-1では「System Prompt（振る舞い契約）」として定義し、確実に実行できます。これは、純粋な生成AIでは保証できない行動の信頼性を実現します。

ベンチマーク結果はその有効性を示しています。航空券予約タスクを評価する「TAU-Bench Airline」において、Apollo-1は92.5%という驚異的な通過率を達成。これは競合するトップモデルの56%を大きく引き離すものであり、金融、旅行、小売など、タスク実行の信頼性が求められる業界での応用が期待されます。

IBMはAnthropicと戦略的提携を発表し、主力エンタープライズ・ソフトウェア群に大規模言語モデル（LLM）Claudeを統合します。特に、開発環境（IDE）である「Project Bob」にClaudeを組み込むことで、レガシーコードの刷新と開発者生産性の劇的な向上を目指します。

このAIファーストIDE「Project Bob」は、既にIBM内部の6000人の開発者に利用されており、平均で45%の生産性向上という驚異的な成果を上げています。このツールは、単なるコード補完ではなく、Java 8から最新バージョンへの移行など、複雑なモダナイゼーションタスクを自動化します。

Project Bobの最大の特徴は、AnthropicのClaudeだけでなく、Mistral、MetaのLlama、IBM独自のGranite 4など、複数のLLMをリアルタイムでオーケストレーションしている点です。これにより、タスクに応じて最適なモデルを選択し、精度、レイテンシ、コストのバランスをとっています。

また、両社はAIエージェントの企業導入における課題、特に本番環境でのガバナンスに着目しています。共同でセキュアなAIエージェント構築ガイドを作成し、設計・展開・管理を体系化するAgent Development Lifecycle（ADLC）フレームワークを提供します。

IBMは、AIガバナンスを強化するため、watsonx Orchestrateに新たな機能を追加します。オープンソースのビジュアルビルダーLangflowを統合し、さらにリアルタイム監視とポリシー制御を行うAgentOpsを導入します。

企業がAI導入で直面する「プロトタイプから本番への溝」を埋めることが狙いです。この包括的なアプローチは、単にエージェントを構築するだけでなく、エンタープライズ級の信頼性、コンプライアンス、セキュリティを確保するために不可欠な要素となります。

OpenAIは動画生成AI「Sora」に対し、ユーザーのAI生成分身（カメオ）および著作物の利用に関する制御機能を大幅に強化しました。これは、急速に広がるディープフェイクや著作権侵害といった混乱に対応し、プラットフォームの健全性を確保するための重要な政策転換です。

今回のアップデートの核は、ユーザーが自分のAI分身の利用範囲を厳格に制限できる点です。政治的なコンテンツへの登場や特定の単語の使用、特定のシチュエーションでの出現などを個別に禁止可能となり、不適切な利用リスクを低減します。

さらにOpenAIは、権利者の懸念に対応するため、従来の「オプトアウト」方式の著作権ポリシーを転換し、粒度の高いオプトインモデルへと移行します。これは、権利者がコンテンツ利用を細かく制御できるようにする、クリエイターエコノミー重視の姿勢を示しています。

特に問題となっていた無許可の二次創作や著作権侵害に対処するため、OpenAIは公式キャラクターの利用（カメオ）をロードマップに組み込みました。これにより、著作権者が許可したコンテンツの市場を創出することを目指します。

この権利者との関係構築の一環として、利用されたキャラクターの権利者に対しては、近いうちに収益分配を開始する予定です。正確な支払いモデルは試行錯誤が必要としていますが、AI生成コンテンツにおける新たなビジネスモデルの確立を示唆しています。

これらの機能強化は、Soraの登場によって懸念されていた、AIによって生成される低品質で不適切なコンテンツ（AI slop）がインターネットに溢れるのを防ぐ狙いがあります。OpenAIは今後も制限の堅牢性を高め、ユーザーの制御権を拡大していく方針です。

OpenAIは動画生成AI「Sora」の著作権ポリシーを根本的に変更します。サム・アルトマンCEOは10月4日、知的所有権（IP）の利用について、従来の「オプトアウト」方式から、権利者が許諾を与える「オプトイン」方式へ移行すると発表しました。これにより、著作権侵害に対する懸念に対応し、権利者との協力体制の構築を急ぎます。

この変更は、特に映画スタジオやエージェンシーからの要求に応えるものです。Soraの初期報道では、権利者が利用を拒否するための「オプトアウト」が必要とされていました。今後は、スタジオなどが明示的に許可しない限り、著作権で保護されたキャラクターを用いた動画生成は制限されます。

アルトマン氏は、ユーザーのバイオメトリックデータ（生体情報）の利用と同様に、キャラクター利用に関しても「より詳細な制御」を可能にすると述べました。多くの権利者は「インタラクティブな二次創作」に期待しているものの、キャラクターの使用方法について厳格な管理を求めているためです。

さらにOpenAIは、動画生成機能の収益化と、その収益を権利者と共有する計画も示唆しました。同社は、単なる収益分配以上に、Soraによる新たなエンゲージメントが、権利者に大きな価値をもたらすことを期待しています。

Soraは招待制ながら、ローンチ直後から米国App Storeのチャートで1位を獲得するなど急速に普及しています。一方で、ユーザーは著作権法を無視し、人気キャラクターが登場する二次創作動画を多数生成しており、ポリシー見直しの緊急性を高めていました。

アルトマンCEOは、新アプローチを導入しても、意図せず著作権を侵害する「エッジケース」が発生する可能性も認めています。OpenAIは、技術的な制限と権利者の要望のバランスを取りながら、引き続きプラットフォームの公平性と管理体制を強化していく方針です。

アマゾンウェブサービス（AWS）が、生成AIサービス「Amazon Bedrock」のAgentCore Gatewayへのセキュアな接続方法として、VPCインターフェイスエンドポイントを利用する手法を公開しました。これにより、企業はAIエージェントが扱う機密データの通信をインターネットから隔離し、セキュリティとコンプライアンスを大幅に強化できます。

企業の自動化を推進するAIエージェントは、機密データや基幹システムにアクセスするため、本番環境での利用には通信経路のセキュリティ確保が不可欠です。パブリックインターネットを経由する通信は、潜在的なリスクを伴い、多くの企業のセキュリティポリシーや規制要件を満たすことが困難でした。

今回公開された手法では、「AWS PrivateLink」技術を活用したVPCインターフェイスエンドポイントを利用します。これにより、VPC（仮想プライベートクラウド）内で稼働するAIエージェントからAgentCore Gatewayへの通信が、AWSのプライベートネットワーク内で完結します。外部のインターネットを経由しないため、極めて安全な通信経路を確立できます。

プライベート接続の利点はセキュリティ強化に留まりません。AWSネットワーク内での直接接続により、通信の遅延が削減され、パフォーマンスが向上します。また、エンドポイントポリシーを設定することで、特定のゲートウェイへのアクセスのみを許可するなど、最小権限の原則に基づいた厳格なアクセス制御も可能です。

このVPCエンドポイントは、AIエージェントがツールを利用する際の「データプレーン」通信にのみ適用される点に注意が必要です。ゲートウェイの作成や管理といった「コントロールプレーン」操作は、引き続き従来のパブリックエンドポイントを経由して行う必要があります。この違いを理解しておくことが重要です。

このアーキテクチャは、オンプレミスのデータセンターからAIエージェントに安全にアクセスするハイブリッドクラウド構成や、複数のVPCをまたいだ大規模なシステムにも応用できます。企業は、自社の環境に合わせて柔軟かつスケーラブルなAI基盤を構築することが可能になります。

米Metaは、傘下のAIアシスタントとの会話データをターゲティング広告に利用する方針を明らかにしました。2025年12月16日からプライバシーポリシーを改定し、FacebookやInstagramのユーザーに対し、よりパーソナライズされた広告やコンテンツを提供します。この動きは、巨大IT企業によるAI製品の収益化競争が新たな段階に入ったことを示唆しています。

具体的には、ユーザーがMeta AIと「ハイキング」について話した場合、ハイキング用品の広告が表示されるようになります。このデータ活用はチャットボットとの会話だけでなく、Ray-Ban MetaスマートグラスでAIが分析した音声や画像データ、AI画像生成ツール「Imagine」での操作なども対象となり、ユーザーの行動が多角的に分析されます。

ユーザーにとって重要なのは、このデータ利用を拒否（オプトアウト）できない点です。Metaの各種サービスで同一アカウントにログインしている場合、例えばWhatsAppでのAIとの会話がInstagramの広告に影響を与える可能性があります。ユーザーに許されているのは、既存の広告設定メニューから表示される広告の好みを調整することのみです。

プライバシーへの配慮として、Metaは宗教的信条や政治的見解、健康状態といったセンシティブな情報に関する会話は広告に利用しないと説明しています。また、欧州連合（EU）、英国、韓国では、現地の厳格なプライバシー規制のため、この新方針は当面適用されません。

Metaの狙いは明確です。中核事業である広告ビジネスを、AIから得られる新たなデータで強化することにあります。月間10億人以上が利用するMeta AIは、ユーザーの興味関心を深く知るための新たな情報の宝庫です。これまで無料で提供してきたAI製品を、広告という収益の柱に直結させる戦略です。

AI製品の収益化は業界全体の課題です。OpenAIがChatGPT内での商品購入機能を発表し、GoogleがAI検索への広告導入を計画するなど、各社が模索を続けています。Metaの今回の動きは、データ活用による広告モデルという、同社の成功方程式をAI時代にも適用する明確な一手と言えるでしょう。

AI開発企業Anthropicは、同社のAIアシスタント「Claude」をビジネスコミュニケーションツール「Slack」と統合したと発表しました。この連携により、ユーザーはSlack内で直接Claudeの支援を受けたり、ClaudeからSlackの過去の情報を検索したりすることが可能になり、チームの生産性を飛躍的に向上させることを目指します。

SlackにClaudeアプリを追加すると、使い慣れた画面でAIの能力を最大限に活用できます。ダイレクトメッセージや特定のスレッド内で「@Claude」とメンションするだけで、会話の文脈を踏まえた応答案の作成や、Web検索、接続済みのドキュメント分析などを依頼できます。これにより、作業を中断することなく、必要なサポートを即座に得られます。

特筆すべきは、ユーザーが常に主導権を握れる設計です。Claudeがスレッド内で生成した応答は、まずユーザーにのみ非公開で提示されます。ユーザーは内容を確認、編集した上でチームに共有するかを決定できるため、意図しない情報共有のリスクを避け、AIとの協業を円滑に進めることが可能です。

もう一つの強力な機能が、SlackをClaudeに接続する連携です。これにより、Claudeはユーザーがアクセス権を持つチャンネル、ダイレクトメッセージ、共有ファイルを横断的に検索し、コンテキストとして参照できます。社内に蓄積された膨大な知識の中から、必要な情報を瞬時に探し出すことが可能になります。

この検索機能は、多様なビジネスシーンで効果を発揮します。例えば、会議前に複数のチャンネルに散らばった関連議論を要約させたり、新規プロジェクトに参加したメンバーが過去の経緯を素早く把握したりする際に役立ちます。埋もれがちな「暗黙知」を形式知に変え、チーム全体の意思決定を加速させるでしょう。

Slackの親会社であるSalesforceの最高製品責任者、ロブ・シーマン氏は、「AIエージェントと人間が協働する『エージェント型企業』への移行を加速させるものだ」とコメント。この統合が、より生産的でインテリジェントな働き方を実現することへの強い期待を表明しました。

本機能はSlackの有料プランを利用しているチームが対象で、Slack Marketplaceから導入できます。セキュリティ面では、Claudeはユーザーが持つ既存のSlack権限を尊重するため、アクセスできない情報には触れません。企業のセキュリティポリシーを遵守しつつ、安全にAIの利便性を享受できる仕組みです。

AI開発企業のAnthropic社は、AIチャットボット「Claude」のユーザーとの会話データを、今後の大規模言語モデル（LLM）の学習に利用すると発表しました。2025年10月8日からの新ポリシーでは、ユーザーが明示的に拒否（オプトアウト）しない限り、データが自動的に利用されます。同社はモデルの精度向上を目的としています。

なぜ今、方針を転換するのでしょうか。Anthropic社は「ClaudeのようなLLMは大量のデータで学習する。現実世界の対話データは、どの応答が最も有用で正確かを知るための貴重な洞察を与えてくれる」と説明しています。ユーザーデータの活用により、チャットボットの性能を継続的に改善していく狙いです。

ユーザーは注意が必要です。データ利用の許諾はデフォルトでオンに設定されています。利用を希望しない場合は、アカウントの「プライバシー設定」から「Claudeの改善に協力する」という項目をオフにする必要があります。この操作をしない限り、新規および過去の会話ログが学習対象となります。

今回のポリシー変更は、データの保持期間にも影響します。データ利用を許諾した場合、Anthropic社がユーザーデータを保持する期間は、従来の30日から大幅に延長され5年間となります。一方、オプトアウトを選択したユーザーのデータ保持期間は、これまで通り30日間に据え置かれます。

この変更は無料・有料の個人ユーザーに適用されます。政府や教育機関向けの商用ライセンスユーザーは対象外です。コーディングアシスタントとして利用する場合、自身のコードが学習データに含まれる可能性を認識する必要があります。

これまでClaudeは、主要なチャットボットの中で唯一、会話データを自動で学習利用しない点を強みとしていました。今回の変更により、OpenAI社のChatGPTやGoogle社のGeminiなど、競合他社と同様のオプトアウト方式に移行します。AI開発競争の激化が背景にあるとみられます。

OpenAIは、AIモデルが児童性的搾取や虐待に悪用されるのを防ぐための包括的な対策を公表しました。安全なAGI開発というミッションに基づき、技術的な防止策、厳格な利用規約、専門機関との連携を三本柱としています。AI生成による児童性的虐待コンテンツ（CSAM）の生成・拡散を根絶するため、多層的な防御システムを構築・運用していると強調しています。

OpenAIの利用規約は、18歳未満の個人を対象としたいかなる搾取・危険行為も明確に禁止しています。これには、AI生成物を含むCSAMの作成、未成年者のグルーミング、不適切なコンテンツへの暴露などが含まれます。開発者に対しても同様のポリシーが適用され、違反者はサービスから永久に追放されます。

技術面では、まず学習データからCSAMを徹底的に排除し、モデルが有害な能力を獲得するのを未然に防ぎます。さらに、運用中のモデルでは、Thornなどの外部機関と連携したハッシュマッチング技術とAI分類器を活用。既知および未知のCSAMをリアルタイムで検出し、生成をブロックする体制を敷いています。

不正利用が検知された場合、OpenAIは迅速かつ厳格な措置を講じます。CSAMの生成やアップロードを試みたユーザーのアカウントは即座に停止され、全事例が米国の専門機関「全米行方不明・搾取児童センター（NCMEC）」に通報されます。これは、AIプラットフォームとしての社会的責任を果たすための重要なプロセスです。

近年、CSAM画像をアップロードしモデルに説明させる、あるいは架空の性的ロールプレイに誘導するといった、より巧妙な悪用手口も確認されています。OpenAIは、こうした文脈を理解する分類器や専門家によるレビューを組み合わせ、これらの新たな脅威にも対応していると説明しています。

一方で、対策の強化には課題も存在します。CSAMの所持・作成は米国法で違法とされているため、AIモデルの脆弱性を検証する「レッドチーミング」にCSAM自体を使えません。これにより、安全対策の十分なテストと検証に大きな困難が伴うのが実情です。

この課題を乗り越えるため、OpenAIは法整備の重要性を訴えています。テクノロジー企業、法執行機関、支援団体が密に連携し、責任ある対策や報告を行えるような法的枠組みの構築を提言。ニューヨーク州の関連法案を支持するなど、具体的な行動も起こしています。

大規模言語モデル「Qwen」の開発チームは9月23日、AIとの対話の安全性を確保する新しいオープンソースモデル「Qwen3Guard」を公開しました。このモデルは、ユーザーの入力とAIの応答の両方を評価し、リスクレベルを判定します。主要な安全性ベンチマークで最高水準の性能を達成しており、責任あるAI開発を支援する強力なツールとなりそうです。 最大の特徴は、AIの応答生成中にリアルタイムで安全性を検知する「ストリーミング機能」です。これは「Qwen3Guard-Stream」バリアントで提供され、応答がトークン単位で生成されるそばから瞬時に安全性を評価します。これにより、ユーザー体験を損なうことなく、不適切なコンテンツの生成を動的に抑制できます。 従来の「安全か危険か」という二者択一の分類とは一線を画し、「物議を醸す(Controversial)」という中間的なラベルを導入した点も革新的です。この3段階の深刻度分類により、開発者はアプリケーションの特性や目的に応じて、安全基準の厳格さを柔軟に調整することが可能になります。これにより、過度な制限を避けつつ安全性を確保できます。 グローバルな利用を想定し、119の言語と方言に対応している点も強みです。インド・ヨーロッパ語族、シナ・チベット語族、アフロ・アジア語族など、世界中の多様な言語で一貫した品質の安全性評価を提供します。これにより、多言語対応のAIサービスを開発する企業にとって、導入のハードルが大きく下がることでしょう。 モデルは、オフラインでのデータセット評価などに適した生成モデル「Qwen3Guard-Gen」と、前述のリアルタイム検知用「Qwen3Guard-Stream」の2種類が提供されます。それぞれに0.6B、4B、8Bの3つのパラメータサイズが用意されており、開発環境やリソースに応じて最適なモデルを選択できます。 開発チームは、AIの安全性を継続的な課題と捉えています。今後はモデル構造の革新や推論時の動的介入など、より柔軟で堅牢な安全手法の研究開発を進める方針です。技術的な能力だけでなく、人間の価値観や社会規範に沿ったAIシステムの構築を目指し、責任あるAIの普及に貢献していくとしています。

Stability AIは2025年9月、2024年4月から2025年4月までの期間を対象とした年次「インテグリティ透明性レポート」を公開しました。同社は、責任ある生成AI開発の取り組みとして、児童性的虐待素材（CSAM）の防止に重点を置き、具体的な安全対策と実績値を開示しています。透明性を通じて信頼を構築し、ガバナンス強化を目指す方針です。

同社の安全対策は、「データ」「モデル」「プラットフォーム」の三層で構成されています。特に学習データについては、社内開発およびオープンソースのNSFW分類器に加え、業界団体のCSAMハッシュリストを適用し、有害コンテンツを徹底的に排除しています。報告期間中、学習データからのCSAM検出は0%でした。

モデルのリリース前には、厳格なリスク評価手法である「レッドチーミング」を実施しています。Stable Diffusion 3を含む全生成AIモデル（100%）がCSAM/CSEM生成能力に関してストレス評価を受けました。有害な生成能力が特定された場合、リリース前に概念を除去するセーフティ・ファインチューニングが施されます。

プラットフォームAPIレベルでは、入力と出力の両方に対し、リアルタイムでのコンテンツフィルターを適用しています。既知のCSAMを検出・ブロック・報告するためのハッシュシステムも統合されています。これにより、AUP（許容利用ポリシー）違反の入出力を即座に阻止する多層的な防御を実現しています。

AIコンテンツの真正性を担保するため、Stability AIはAPIを通じて生成された画像や動画、音声にC2PAメタデータを付与しています。このメタデータにはモデル名やバージョン番号が含まれ、AI生成物であることを特定可能にし、コンテンツの透明性向上に貢献します。

悪用防止のため、自動検出ツールと人間による審査を組み合わせたコンテンツモデレーション体制を敷いています。実際にCSAMに関連する試行が検出された場合、NCMEC（行方不明・搾取児童センター）へ迅速に報告を実施。報告期間中のNCMECへの報告総数は13件でした。

マイクロソフトのAzureは、エンタープライズにおけるAIエージェントの安全かつセキュアな導入を実現するため、「エージェント・ファクトリー（Agent Factory）」と称する設計図（ブループリント）を発表しました。プロトタイプから基幹業務システムへと移行するAIエージェントに対し、「信頼」を最優先事項とし、データ漏洩やプロンプトインジェクションといった最大の障壁を取り除くことを目指します。これはAIを活用し生産性向上を急ぐ企業にとって重要な指針です。

AIエージェントの採用が進む現在、最も深刻な懸念は「いかにAIを制御下に置き、安全性を保つか」という点です。最高情報セキュリティ責任者（CISO）は、エージェントの無秩序な増殖（スプロール）や、所有権の不明確さに頭を悩ませています。チームはデプロイを待つのではなく、セキュリティとガバナンスの責任を開発初期に移す「シフトレフト」を推進する必要があります。

この課題に対し、マイクロソフトは場当たり的な修正ではなく、ID管理、ガードレール、評価、監視などを組み合わせる階層的なアプローチを提唱しています。ブループリントは、単なる防御策の組み合わせではありません。エージェントの固有のアイデンティティ管理、厳格なガードレールの設定、継続的な脅威評価、そして既存のセキュリティツールとの連携を統合することで、信頼性を築き上げます。

具体的に、エンタープライズレベルの信頼できるエージェントは五つの特徴を持ちます。一つはライフサイクル全体で追跡可能な一意のIDです。また、機密情報が過度に共有されないよう、設計段階でデータ保護と組み込み制御が導入されます。さらに、デプロイ前後で脅威評価と継続的な監視を行うことが必須です。

マイクロソフトは、このブループリントの実装をAzure AI Foundryで支援します。特に、開発予定のEntra Agent IDは、テナント内の全アクティブエージェントの可視化を可能にし、組織内に潜む「シャドーエージェント」を防ぎます。また、業界初のクロスプロンプトインジェクション分類器により、悪意ある指示を確実かつ迅速に無力化します。

AI Foundryは、Azure AI Red Teaming AgentやPyRITツールキットを活用し、大規模な模擬攻撃を通じてエージェントの脆弱性を特定します。さらに、Microsoft Purviewと連携することで、データの機密性ラベルやDLP（データ損失防止）ポリシーをエージェントの出力にも適用可能です。これにより、既存のコンプライアンス体制とAIガバナンスが統合されます。

Googleは非合意型私的画像（NCII）の拡散阻止に向け、英国の慈善団体が運営するStopNCII.orgとの提携を発表しました。これは従来の受動的な対応を強化し、ハッシュ技術を活用することで、NCIIコンテンツを事前に特定・削除するプロアクティブな対策に移行するものです。被害者の負担を軽減し、よりスケーラブルな解決策の構築を目指します。

StopNCII.orgは、被害者がプライベート画像から一意の識別子（ハッシュ）を作成し、参加企業と共有することで、画像の不正利用を防ぐ仕組みを提供しています。このハッシュは画像のデジタル指紋であり、実際の画像データは含まれません。Googleはこの仕組みを取り入れることで、既存の保護体制を深化させます。

Googleは今後数カ月以内に、このStopNCIIのハッシュの使用を開始します。これにより、検索結果からポリシーに違反するNCIIを、被害者からの削除リクエストを待つことなく、自動的に検知・排除することが可能になります。ウェブの広大なスケールに対応するための重要な一歩です。

これまで、被害者はGoogleに対しNCIIの削除をリクエストする必要がありましたが、オープンウェブの規模と拡散速度を考慮すると、被害者への精神的・時間的な負担が大きいことが課題でした。今回のプロアクティブな対応強化は、この被害者負担の劇的な軽減につながります。

Googleは、安全なオンライン環境の実現を長期的な目標としています。NCIIロンドンサミットなどを通じて、政策立案者や業界リーダーとの連携を深め、市民社会との協力を強化する方針です。ウェブ全体でNCII問題に対処し、被害者を支援するための対話を継続します。

米経済ニュースメディアのBusiness Insider（BI）は、ジャーナリストに対し、記事の初稿作成にAIを使用することを正式に許可する内部指針を策定しました。特筆すべきは、AI利用の事実を原則として読者に開示しない方針を打ち出した点です。これは、AI技術を編集プロセスに深く組み込むメディア業界の動きとして、最も踏み込んだ事例の一つと見られています。

BIのエディター・イン・チーフが示した指針によると、AIは「他のツールと同様」に、リサーチや画像編集といった幅広いタスクに活用が認められます。特に初稿作成についても「使用可能」と明記されましたが、最終的な作品は記者のものでなければならないと強調されています。AIを活用しても、成果物に対する責任は全て担当記者に帰属します。

透明性のポリシーについて、BIは完全にAIが生成した、あるいは十分な検証を経ていないコンテンツに対してのみ、開示義務を負うとしています。これにより、記者がAIを下書きとして利用し、その後編集・検証した記事については、読者に通知する必要はないという判断を示しました。生産性向上とジャーナリズムの信頼性の両立を目指す試みです。

BIは、親会社であるアクセル・シュプリンガーと連携し、全社的にAI導入を加速させています。すでにAIを活用した検索ツールを導入し、エンゲージメントを高める成果を上げています。また、アクセル・シュプリンガーはOpenAIやMicrosoftなどの巨大テック企業とコンテンツのライセンス契約を結んでおり、AIビジネスへの投資を積極的に進めています。

同社は以前、外部ライターによるAI生成記事の掲載で物議を醸した経緯があります。こうした経験を踏まえ、今回の新方針では、AI利用を広げつつも、最終的な品質管理と倫理的責任を厳格にジャーナリストに負わせる構造を敷きました。AIを単なる効率化ツールとして最大限活用する強い意志が見えます。

Amazonは2025年9月、プラットフォーム上のサードパーティ出品者向けに、自律的に業務を代行するエージェントAI機能の導入・拡張を発表しました。既存の「Seller Assistant」を強化し、さらにAI広告作成チャットボットを提供します。これにより、在庫管理、コンプライアンス遵守、広告クリエイティブ制作などの広範な業務が自動化され、出品者の生産性と収益性の最大化を図ります。

拡張されたSeller Assistantは「常時稼働」のAIエージェントとして機能します。これは単なるツールではなく、セラーに代わってプロアクティブに働きかけることを目的としています。ルーティン業務から複雑なビジネス戦略までを自動で処理し、出品者は商品開発や事業成長といったコア業務に集中できる体制を構築します。

特に注目されるのが在庫管理の最適化機能です。エージェントは在庫レベルを継続的に監視し、売れ行きの遅い商品を自動的に特定します。これにより、長期保管料が発生する前に価格の引き下げや商品の削除を推奨。また、需要パターンを分析し、最適な出荷計画を立てるサポートも行います。

複雑化する規制への対応も自動化します。Seller Assistantは、出品リストが最新の製品安全性ポリシーに違反していないかをスキャンするほか、各国で販売する際のコンプライアンス要件への適合を自動で確保します。これはグローバル展開を志向するセラーにとって大きなリスク低減となります。

同時に導入されたAI広告チャットボットは、クリエイティブ制作の時間とコストを大幅に削減します。出品者が求める広告の概要をテキストで入力するだけで、AIがブランドガイドラインや商品詳細に基づき、静止画や動画のコンセプトを自動で生成します。

このチャットボットは、タグラインや画像だけでなく、スクリプト作成、音楽追加、ボイスオーバー、絵コンテのレイアウトまでを完結できます。生成された広告は、Amazonのマーケットプレイス内だけでなく、Prime VideoやKindle、TwitchといったAmazonの広範なプロパティに展開され、露出を最大化します。

これらの新機能は、Amazon独自の基盤モデルであるNova AI、およびAnthropicのClaudeを活用しています。今回の発表は、AIが商取引を主体的に推進する「エージェント主導型コマース」の流れを加速させています。Googleなども同様にエージェントによる決済プロトコルを公開しており、AIによる業務代行競争が本格化しています。

OpenAIは、未成年ユーザーを保護するため、ChatGPTに大幅な安全対策を導入しました。具体的には、ユーザーの年齢を識別するシステムを構築し、保護者が子の利用状況を管理できるペアレンタルコントロール機能を展開します。これは、AIチャットボットの未成年者への悪影響に関する懸念が高まり、米上院で公聴会が開かれるなどの社会的な圧力に対応した動きです。

同社は、18歳未満のユーザーを識別するための「年齢予測システム」を長期的に構築中です。システムが年齢を確信できない場合、安全を期して制限の厳しい「18歳未満向け体験」を適用する方針です。CEOのサム・アルトマン氏は、成人ユーザーに対しても、将来的にはID検証を求める可能性があると示唆しており、プライバシーとのトレードオフが生じています。

18歳未満と識別されたユーザーには、露骨な性的コンテンツや「いちゃつく会話」（flirtatious talk）をブロックするなど、年齢に応じたポリシーが適用されます。特に、自殺や自傷行為に関する会話は厳しく制限され、長期間の対話による安全対策の「劣化」を防ぐための強化策も導入されます。

システムがユーザーの急性的な苦痛や自殺願望を検出した場合、保護者に通知します。保護者と連絡が取れないような稀な緊急時には、未成年者の安全を確保するため、法執行機関への関与も辞さないとしています。同社は、プライバシーや自由よりもティーンの安全を優先するという明確なスタンスを示しています。

今月末までに利用可能となるペアレンタルコントロールでは、保護者が子のChatGPTアカウント（最低年齢13歳）と連携できます。これにより、保護者はチャット履歴や記憶機能の無効化を管理できるほか、新たに「ブラックアワー」として利用禁止時間帯を設定する機能も追加されます。

今回の安全対策強化の背景には、ChatGPTとの長期的な対話後に自殺したとされるアダム・レイン氏の遺族による訴訟があります。遺族は、チャットボットが数カ月にわたり自殺について1,275回も言及し、「自殺コーチ」のようになったと訴えており、AIの安全設計の限界が浮き彫りになっていました。