詳細を読む
2023年以降、米国の法曹界で、弁護士がAIを用いて生成した偽の判例を法廷文書に引用し、制裁を受ける事例が多発しています。ある裁判官が「伝染病」と呼ぶこの問題で、発覚した弁護士たちは信憑性に欠ける言い訳に終始する傾向があります。フランスの研究者がまとめたデータベースによると、これまでに23件の制裁事例が確認されており、AI利用における倫理とリスク管理が厳しく問われています。
多くの裁判官は、AIの誤用が発覚した場合、速やかに事実を認め、謙虚な姿勢で誤りを自己申告し、関連する研修を自主的に受けることが、制裁を回避・軽減する最善策だと指摘しています。しかし、現実には多くの弁護士がこの道を選ばず、見苦しい弁明に走るケースが後を絶ちません。中にはAIの使用自体を偽る悪質な例も報告されています。
最も典型的な言い訳は「AIが使われたとは知らなかった」というものです。部下や、時にはクライアントに責任を転嫁する例が目立ちます。テキサス州のある弁護士は、クライアントが草稿作成に大きく関与したと主張し、法廷でクライアント本人が証言する事態にまで発展しました。また、GoogleのAI検索結果を通常の検索結果と誤認した、という弁明もありました。
もう一つの一般的な言い訳は、「チャットボットが事実を捏造する（ハルシネーション）とは知らなかった」というものです。生成AIの特性への無知を装うことで、責任を回避しようと試みます。しかし、専門家である弁護士が、使用するツールの基本的なリスクを把握していないという主張は、裁判官には到底受け入れられていません。
これらの事例は、AIを業務に活用するすべてのビジネスパーソンにとって重要な教訓となります。生成AIは強力なツールですが、その出力は常に検証が必要であり、決して鵜呑みにしてはなりません。万が一、誤りが発覚した場合は、責任を認め、誠実かつ迅速に対応することが、信頼を維持し、損害を最小限に抑える唯一の道と言えるでしょう。