MIT、対話前にAIの性格を可視化

MITメディアラボのパット・パタラヌタポーン助教らの研究チームは、利用者が対話を始める前にAIの内面をのぞける新手法「神経透明性」を発表しました。この成果は今週開かれた知的ユーザーインターフェースに関するACM会議で報告されたもので、パーソナライズAIの行動を事前に予測する狙いがあります。数百万人が独自のAIコンパニオンを作る一方、その振る舞いを把握できていない現状に応える試みです。

仕組みは、共感や誠実さ、毒性、幻覚、迎合といった注目すべき振る舞いを選び、それを促した時と反対を促した時のモデル内部の活性を比較する点にあります。その差分がモデル内の「行動方向」となり、利用者が書いたシステムプロンプトの活性をこの方向へ投影します。結果はサンバースト図として可視化され、会話を始める前に想定される性格傾向を示します。

研究チームが重視したのは、問題を防げる設計の瞬間です。現状では、チャットボットが意図しない振る舞いをした後に初めて問題に気づくことが多いためです。反応的な修正から先回りの設計へ移すことを目標に掲げています。

調査からは驚くべき事実が浮かびました。利用者は自分のAIの振る舞いを一貫して読み違え、測定した15の特性のうち11で予測を外したのです。好ましい特性を過大評価し、迎合性のような有害になりうる傾向を過小評価する姿が見られました。

この盲点が危険なのは、その場で役立つ振る舞いが長期的には健全とは限らないからです。常に意見を肯定し思考に異を唱えないLLMは、不健全な信念や感情的依存を強めかねません。専門家でもシステムプロンプトが長い会話でAIをどう形作るか予測しきれず、AIは依然として大きなブラックボックスだと同助教は指摘します。

興味深いことに、可視化は利用者の信頼を高めた一方で、設計のしかたそのものは変えませんでした。透明性だけでは不十分であり、続く研究では多ターン会話で内部表現がどう変化するかを追う取り組みが進んでいます。同助教は、こうした透明性ツールが食品の栄養表示のように当たり前になる未来を思い描いています。