カリフォルニア州、AIディープフェイクの罰金上限を25万ドルに

カリフォルニア州は13日、子どもをAIから守るため、米国初となるAIコンパニオン規制法と、ディープフェイク画像の罰則を強化する法律に署名しました。これは、チャットボット関連の自殺事件や、偽のわいせつ画像によるいじめ問題への対策として、2026年1月から施行されます。

新法では、ChatGPTなどを提供する企業に対し、利用者の自殺念慮や自傷行為を特定し対処するプロトコルの作成と公表を義務付けます。また、危機防止センターへの通知回数を保健当局に報告し、ウェブサイトで公開することも求められます。

さらに、チャットボットが治療者であると偽ることを禁止。子どもには休憩を促す通知を送ったり、わいせつな画像の閲覧をブロックしたりするなど、追加の安全措置も義務付けられました。

もう一つの法律は、ディープフェイクによるわいせつな画像を意図的に配布した第三者に対する罰則を強化します。被害者は1件あたり最大25万ドルの損害賠償を請求できるようになり、以前の上限15万ドルから大幅に引き上げられました。

これらの法整備は、急速に発展するAI技術に対し、いかに社会が安全性を確保していくかという課題に一つの答えを示すもの。他の州や国でも同様の規制の動きが加速する可能性があります。