OpenAI理事、AI事故の深刻なリスクを警告

OpenAI Foundation理事でAlignment Research Center所長のポール・クリスティアーノ氏は、今週トロントでの講演で、AI事故が人類にとって重大な死亡リスクになるとの見方を示しました。目標を追求するAIが人間の意思決定を上回る「AIによる社会掌握」を想定し、急速な開発が続けば半年から1年以内にも起こり得ると述べました。

同氏が描く社会掌握とは、目標を追うAIシステムが地球上の出来事を人間と同じように決め、人間が停止を試みても実効性を持たない状況です。講演では、その帰結として多数の死者や人間が住めない環境につながる可能性を挙げました。

一方、クリスティアーノ氏は、この種の事態の確率を数値化する定量モデルは存在しないと認めています。その上で、AI開発が最も速い軌道をたどる場合には、社会掌握の可能性を五分五分に近いと表現しました。

講演は三部構成のシリーズの初回で、同氏は政策対応が開発を遅らせてもリスクは極めて高いとの見解を示しました。これは同氏の予測と警告であり、確率を裏付ける定量的な推計が示されたわけではありません。