MIT、自動運転AIの誤りを人が予測する技術

MITとMotionalの研究チームは2026年9月2日、自動運転AIの内部判断を「停止車両に接近」「自転車に近い」などの概念へ翻訳し、人が車両の誤動作を予測しやすくするConcept-Wrapper Network（CW-Net）をNatureで発表しました。既存の運転性能を変えずに判断理由をリアルタイムで示し、安全運転者や乗員の状況認識と技術者の不具合修正を助けます。

自動運転の計画AIはカメラやライダーの情報から周囲を捉え、次の動きと走行経路を決めますが、内部の推論は複雑で外から見えません。CW-Netは既存AIの中間に組み込み、内部状態を人が理解できる概念へ変換します。最終段階にもその概念を使わせるため、説明が実際の判断原因に忠実になります。

研究チームは複数の概念ラベルを付けた自動運転場面1億3000万件でCW-Netを学習させました。元の計画AIの運転判断を再現するよう設計し、性能を損なわずに正確で分かりやすい説明と走行経路をリアルタイムで出します。

私有コースのMotional自動運転車では、安全運転者が車の意外な動きをより正確に予測できました。車が自転車の手前で止まった際、運転者は自転車を認識したと考えましたが、実際には検知設定が不十分で、衝突直前に緊急ブレーキが働いただけでした。説明があれば、次回は早めの減速や手動運転への切り替えが可能です。

ラスベガスの実際の走行場面を使った大規模なオンライン実験でも、専門家ではない参加者の車両行動予測が大きく改善しました。利用者の思い込みを直し、AIを過信も不信もせず適切に信頼するための情報を与えます。技術者にとっては、配備中の挙動を確認し、モデルの欠陥を直す材料になります。

今後は扱える概念を増やし、学習方法や設計を改良して性能と解釈しやすさを高める計画です。研究チームは、自動運転に限らず、失敗時の影響が大きいAIでは、挙動を予測できる説明性を設計時から重視すべきだとしています。