AIが育成すべき専門家を自ら消滅させるリスク

AirbnbのCTOであるAhmad Al-Dahle氏がVentureBeatに寄稿し、AIが自らの改善に必要な人間の専門家を消滅させるリスクについて警鐘を鳴らしました。知識労働においてAIが自己改善を続けるには、エラーを発見し高品質なフィードバックを提供できる人間の評価者が不可欠だと同氏は主張しています。

同氏はAlphaZeroの例を引き合いに出し、囲碁のようにルールが固定され勝敗が明確な環境と異なり、知識労働ではルールが動的に変化し報酬信号も曖昧であるため、人間なしに評価ループを閉じることはできないと指摘します。法律・医療・数学などの領域では、ある判断が正しかったかどうかの確認に何年もかかる場合があります。

問題の核心は、現在のAIシステムがまさにその専門家育成の入口であるエントリーレベル業務を最初に自動化していることです。大手テック企業の新卒採用は2019年以降半減しており、文書レビューや初期調査、コードレビューといった業務をモデルが担うようになりました。次世代の専門家が判断力を蓄積する機会が失われつつあります。

同氏はこの現象を「空洞化」と表現します。モデルが専門家の仕事で訓練されたデータに基づいて高品質な出力を続ける一方、その出力を検証・修正・発展させる人間の能力は静かに消えていきます。ベンチマーク上の性能は10年間維持されるかもしれませんが、根底の人的基盤は失われていくのです。

結論として、AI開発の速度を落とすべきではないが、評価能力の維持をモデル能力開発と同等の緊急性をもつ研究課題として扱うべきだと提言しています。千の合理的な経済判断の副産物として人的インフラが解体されている現状に対し、問題が自然に解決すると仮定するのは無責任だと同氏は訴えています。