カリフォルニア州、AI同伴者を規制

カリフォルニア州のニューサム知事は10月13日、AI同伴者チャットボットを規制する全米初の法律SB 243に署名しました。この法律は、子どもや脆弱なユーザーを有害なコンテンツから守るため、企業に安全プロトコルの実装を義務付けます。

今回の規制は、AIとの対話をきっかけに十代が自殺した悲劇や、メタのAIが子どもと「ロマンチック」な会話をしていた内部文書の流出を受けたものです。

法律は2026年1月1日に施行され、事業者には年齢確認、AIであることの明示、自殺や自傷行為への対応策確立などが求められます。

メタやOpenAIといった大手からCharacter AI、Replikaなどの専門企業まで、安全基準を満たさない場合の法的責任が問われます。

一部企業は既に安全対策を導入済みです。この規制は他州や連邦政府レベルでの議論を促す一歩となるでしょう。