米AIGやGreat Americanなど大手保険会社が、企業向け保険においてAI関連の賠償責任を対象外とする許可を米規制当局に求めています。AIモデルの挙動が「ブラックボックス」であり、リスク評価が困難であることが主な理由です。

保険会社が最も恐れているのは、一社の巨額損失ではなく、広く普及したAIモデルの不具合によるシステミックリスクです。一つの欠陥がトリガーとなり、同時に1万件もの保険金請求が発生すれば、保険会社の支払い能力を超えかねません。

既にAIに起因するトラブルは頻発しています。GoogleのAIが誤った法的情報を生成して1.1億ドルの訴訟に発展したほか、企業のチャットボットが勝手に割引を提示したり、ディープフェイクを用いた詐欺で2500万ドルの被害が出たりしています。

経営者やリーダーは、AI活用による生産性向上を追求する一方で、保険でカバーされない新たな経営リスクを負う可能性を認識する必要があります。外部モデルへの依存度を見極め、自社でのリスク管理体制を強化することが急務です。

AIによる価格設定が普及する中、ペンシルベニア大学などの研究チームが、アルゴリズム同士が「合意なし」に価格をつり上げる新たなメカニズムを解明しました。従来の談合定義に当てはまらないこの現象は、法的規制の枠組みを根底から揺るがす可能性があります。

これまでの通説では、AIが談合するには相手への「報復」能力が必要だとされてきました。しかし最新の研究により、報復機能を持たない良性に見えるアルゴリズムであっても、特定の単純な戦略と対峙することで、消費者に不利な高価格が維持されることが判明しました。

具体的には、過去の失敗から学ぶ「後悔なし」型のアルゴリズムに対し、相手の動きを無視する「非応答的」な戦略をぶつけると、双方が高利益を得る均衡状態に陥ります。これは意図的な談合ではなく、アルゴリズムが最適解を探索した結果として生じます。

この発見は規制当局に難題を突きつけています。明確な脅威や合意が存在しないため、現行法では違法性を問うことが困難だからです。「単に賢くない戦略」を採用した結果として市場価格が高止まりする場合、どこまで規制介入すべきかの線引きが極めて曖昧になります。

専門家の中には特定のアルゴリズム以外を禁止すべきという意見もありますが、実効性には議論の余地があります。AIを導入する企業にとって、自社のシステムが意図せず市場を歪めるリスクは無視できません。透明性の確保と倫理的な設計が、今後の重要な経営課題となるでしょう。