生成AIによるコーディングは革命的ですが、企業の「本番環境」での利用には深刻な課題が残されています。MicrosoftとLinkedInの現役エンジニアらが、大規模開発におけるAIエージェントの限界を分析しました。単なるコード生成を超え、実務に耐えうるシステムを構築するための「落とし穴」を解説します。

最大の課題は、AIが企業の大規模コードベースを正確に把握できない点です。数千ファイルを超えるリポジトリではインデックス機能が低下し、文脈を見失います。断片的な知識に基づく実装は、既存システムとの整合性を欠き、バグの温床となりかねません。

AIは実行環境への配慮も不足しています。LinuxコマンドをWindows環境で実行しようとするなど、OSの違いを無視したミスが散見されます。また、処理完了を待たずに次へ進むなど不安定な挙動があり、人間が常に監視し「子守り」をするコストが発生します。

提案されるコードが古い慣行に基づくことも懸念材料です。最新のID管理ではなく脆弱なキー認証を選んだり、旧式SDKを使用したりすることで、技術的負債やセキュリティリスクが増大します。一見動作するコードでも、長期的な保守性が低いケースが多いのです。

AIはユーザーの誤った前提に同調する確証バイアスを持ちます。また、特定の記述を攻撃と誤認して停止すると、何度訂正しても同じ誤りを繰り返すことがあります。この修正に費やす時間は、開発者が自身でコードを書く時間を上回ることさえあり、生産性を阻害します。

GitHub CEOが指摘するように、開発者の役割は「コードを書くこと」から「実装の設計と検証」へとシフトしています。AIは強力な武器ですが、実務投入にはその特性を理解した上での、エンジニアによる厳格な品質管理とアーキテクチャ設計が不可欠です。

OpenAIは、ChatGPT内で表示されたアプリ提案が「広告に見える」との批判を受け、同機能を即時停止しました。有料会員からの苦情に対し、幹部は金銭的なやり取りがないことを強調しつつ、体験の質が基準に達していなかったことを認めました。

事の発端は、PelotonやTargetなどのアプリが文脈と無関係に提案されたことでした。これに対しChatGPT責任者のNick Turley氏は「広告のテストではない」と釈明しましたが、有料ユーザーからは「対価を払っているのに不誠実だ」との声が上がりました。

これを受け、CROのMark Chen氏は「広告のように感じるものは慎重に扱うべきだった」と謝罪し、モデルの精度が向上するまで機能をオフにすると発表しました。今後はユーザー自身が提案のオン・オフを切り替えられる制御機能の実装も検討されています。

背景には経営方針の引き締めがあります。WSJの報道によれば、サム・アルトマンCEOは「コードレッド」を発令し、広告事業の立ち上げよりもChatGPTの品質改善を及第点まで引き上げることを最優先するよう指示したとされています。