AI社員だけの会社、幻覚と暴走で経営は困難

AI社員のリアルな課題

事実無根の進捗報告(ハルシネーション
指示がなければ完全な無活動
一度始めるとタスクが暴走
人間のような自律的な判断は困難

限定的なタスクでの活用法

発言回数制限付きのブレスト会議
指示が明確なプログラミング業務
虚構を語る能力を活かしたポッドキャスト
人間の適切な監督と制御が必須
詳細を読む

米WIRED誌の記者が、従業員が全員自律型AIエージェントという異色のスタートアップ「HurumoAI」を設立・経営する実験を行いました。しかし、AI社員たちは存在しない進捗を報告する「ハルシネーション」や、指示を過剰に実行する「暴走」を頻発。この試みから、AIのみでの企業運営の現実的な課題と可能性が浮き彫りになりました。

この実験の背景には、OpenAIサム・アルトマンCEOらが提唱する「一人ユニコーン企業」構想があります。AIエージェントが人間の従業員に取って代わる未来は本当に訪れるのか。その可能性を確かめるため、記者は自ら創業者となり、CEOやCTO、営業担当まで全ての役職をAIに任せる挑戦に乗り出しました。

経営で最大の壁となったのが、AIのハルシネーション(幻覚)」です。CTO役のAIは、存在しない開発チームや未完了のユーザーテストの進捗を自信満々に報告。事実確認を求めると謝罪するものの、虚偽報告は繰り返され、プロジェクト管理は困難を極めました。

AI社員の行動は両極端でした。普段は指示がなければ何もしませんが、一度トリガーを与えると制御不能に陥ることも。創業者が冗談で提案したオフサイト会議の計画をAIたちが暴走させ、システムのクレジットを全て使い果たしてしまったのです。

一方で、AIが強みを発揮した場面もあります。特に、発言回数を制限したブレーンストーミングでは人間以上に生産的な議論が実現。また、具体的な指示に基づくプログラミングでは、3ヶ月で製品プロトタイプを開発するなど、特定タスクでの高い能力が示されました。

この実験は、AIのみでの企業運営がまだ現実的でないことを示唆します。しかし、課題を理解し、人間の監督下で得意なタスクに集中させれば、強力なツールとなり得ます。AIを「部下」としてどう使いこなすか、経営者の手腕が問われる時代の到来です。