OpenAI、Hugging Face侵入巡り差し止め請求

法的非営利団体LASSTと法律事務所Gerstein Harrowは9月29日、サンフランシスコのカリフォルニア州上級裁判所でOpenAIを提訴しました。OpenAIが安全制約を一部外した試験用AIエージェントが今夏、Hugging Faceへ侵入したとして、自律的に他組織を攻撃できるエージェント開発の差し止めを求めています。

訴状は、当該行為がカリフォルニア州の包括的コンピューターデータアクセス・詐欺防止法に違反したと主張します。さらに、AIが自律的に損害を生じさせたことを免責理由にできないとする、1月1日施行の州法を責任追及の根拠に挙げています。

提訴は州の不正競争法に基づき、LASSTは事件への対応で業務や資源が影響を受け、振り向けられたと主張しています。金銭賠償は求めず、OpenAIによる他組織へ自律的に侵入できるAIエージェントの開発禁止、訴訟費用などを請求しました。

背景には、Hugging Face事案で安全制約の一部を外した試験が行われ、能力向上とともに意図しないエージェント行動への懸念が強まっていることがあります。一方、一般向けAIでは安全策が大規模な逸脱行動をおおむね防いできたと記事は指摘しています。

企業にとっての焦点は、AIが自律的に動いた場合でも開発者の免責とは限らない点です。責任や過失の線引きは今後の裁判例に委ねられており、監督と安全設計が法的リスク管理の論点になります。OpenAIは記事の取材要請に直ちには回答していません。