詳細を読む
企業データ管理の専門家Ankit Anand氏は2026年9月13日、長期間動くAIエージェントでは、処理中に入力が積み上がるとシステムプロンプト内の順守ルールが有効な文脈から押し出され、警告なしに無視され得るとVentureBeatへの寄稿で指摘しました。大きな文脈窓やRAGだけでは状態を強制できず、生成層の外に決定論的な規則層を置くべきだと論じています。
短い文脈で動く試験環境では、モデルがシステムプロンプトを参照できても、実運用でトークン列が数十万規模になると注意が薄まります。記事は、重要な情報が長い文脈の中ほどで見落とされる「lost in the middle」により、会話用の一時情報と不変の業務規則との境界が崩れると説明しています。
この問題はシステム停止を伴わず、監視アラートも出ないまま出力だけが続くため、監査まで発覚しない恐れがあります。文脈窓を100万トークンへ広げたりRAGを強化したりしても、類似情報を検索する仕組みには規則を必ず守らせる強制力がなく、失敗を遅らせてクラウド総保有コストを増やすだけだと筆者はみています。
提案するのは、推論を担うニューラルネットワークと、記号論理を扱う決定論的な規則層を物理的に分けるニューロシンボリック分離です。AIに下書きを生成させても、処理を確定する前に外部の規則エンジンが不変の制約と照合し、違反する操作を遮断します。
では、運用チームは何から着手すべきでしょうか。記事は、複数日にまたがるエージェントで初期制約を定期的に再検証しているかを監査し、順守条件を自然言語プロンプトから決定論的なポリシーエンジンへ移すよう促しています。さらに、金融データやマスターデータを扱う処理では、消去可能な作業メモリーと不変の運用制約を分離することが、安全な拡張の前提になります。