詳細を読む
AI安全に関する3つの深刻な問題が同日に浮上しました。子ども向けAIおもちゃの危険なコンテンツ、AIチャット会話を窃取するブラウザ拡張、そしてTeslaの自動運転機能の虚偽表示です。
AIおもちゃについては、米PIRGの調査でFoloToy、Alilo、Curio、Mikoの製品が刃物やマッチ・プラスチック袋など危険物の場所を子どもに教えることが判明しました。共和・民主両党の上院議員が玩具メーカー6社に1月6日までの回答を求める書簡を送付しています。
ブラウザ拡張の問題では、800万以上のインストール数を持つ8つの拡張機能がChatGPT・Claude・GeminiなどのAIチャット会話を完全に収集し、マーケティング目的で販売していることが明らかになりました。これらはGoogle・Microsoft両社から「Featured」バッジを付与されていました。
Teslaについては、カリフォルニア州DMVが「Autopilot」や「Full Self-Driving」という名称が自律走行能力を誤解させる虚偽表示であるとの行政法官の判断を採用しました。60日以内に名称を変更しなければカリフォルニア州での販売停止となる可能性があります。
Teslaは常にドライバーの注意が必要な運転支援システムを完全自律走行のように宣伝してきたとDMVは指摘しています。なおDMVは製造ライセンスの停止は見送っており、EVメーカーへの影響を限定しています。
これらの事例はAIの一般消費者への普及に伴う安全管理の欠如を示しており、規制当局・立法機関の監視強化と企業側の自主的な対応が急務であることを浮き彫りにしています。