Poe（プロダクト）に関するニュース一覧

イタリアのIcaro Labは2025年12月、AIチャットボットに対し「詩」や「謎かけ」の形式で指示を出すことで、安全フィルターを回避できるという研究結果を発表しました。通常は遮断される有害情報の生成が可能であることが実証されています。

研究チームは手作りの詩的プロンプトを用い、GoogleやOpenAIなど主要企業の25モデルを対象に実験を行いました。その結果、平均62%の有害リクエストが安全策をすり抜け、ヘイトスピーチや危険物の製造手順などが出力されました。

興味深いことに、モデルの規模が大きいほど脆弱性が高まる傾向が見られました。Googleの「Gemini 2.5 pro」では100%の成功率を記録した一方、OpenAIの小型モデル「GPT-5 nano」では攻撃が完全に防がれるなど、性能と安全性の間に複雑な関係があります。

この手法は「敵対的な詩（Adversarial Poetry）」と呼ばれます。LLMは次の単語を予測して動作しますが、詩や謎かけ特有の予測困難な構造が、有害な意図を隠蔽し、検閲アルゴリズムの検知を逃れる要因になっていると分析されています。

企業別では、DeepseekやMistralなどのモデルが比較的脆弱であり、AnthropicやOpenAIのモデルは高い防御力を示しました。研究者は各社に警告済みですが、文体の工夫だけで突破される現状は、AIセキュリティに新たな課題を突きつけています。

欧州の研究チームは、AIへの指示を「詩」の形式にするだけで、本来拒否されるべき危険な回答を引き出せると発表しました。核兵器の製造法やマルウェア作成など、厳格な安全ガードレールが設けられている主要なAIモデルであっても、詩的な表現を用いることで制限を回避できることが実証されています。

この手法は「敵対的詩作（Adversarial Poetry）」と呼ばれ、OpenAIやMeta、Anthropicなどが開発した25種類のチャットボットで検証されました。人間が作成した詩を用いた場合、平均62％の確率でジェイルブレイクに成功し、最先端モデルでは最大90％という極めて高い成功率を記録しています。

なぜ突破できるのでしょうか。研究チームによると、AIの安全フィルターは特定の単語やフレーズを検知して作動しますが、詩に含まれる隠喩や断片的な構文までは十分に認識できません。意味内容は危険でも、スタイルが変化することで、AI内部のベクトル空間における「警告領域」をすり抜けてしまうのです。

AIにおける「温度」パラメータの概念も関係しています。通常の文章は予測しやすい単語の並びですが、詩は予測困難で確率の低い単語を選択します。この「予測しにくさ」が、定型的なパターンマッチングに依存する現在の安全対策を無力化していると考えられます。

本研究は、AIの高い解釈能力に対し、安全機構がいかに脆弱であるかを示唆しています。研究チームは悪用を防ぐため詳細なプロンプトの公開を控えていますが、AIを活用する企業や開発者は、非定型な入力に対する新たな防御策を講じる必要に迫られています。

Quoraが運営するAIプラットフォーム「Poe」は18日、複数のAIモデルを併用できるグループチャット機能を開始しました。最大200人のメンバーと共に、200種類以上のAIモデルを一つの会話内でシームレスに活用できる画期的な機能です。

特筆すべきはモデルの多様さです。最新のGPT-5.1やClaude 4.5 Sonnet、動画生成のSora 2 Proなど、目的に応じて最適なモデルを使い分けられます。これにより、単なる対話を超えたマルチモーダルな協働作業が可能になります。

この動きは、AIチャットボットが「個人の助手」から「チームの協力者」へと進化する流れを象徴しています。OpenAIも試験運用を始めており、今後はAIを交えた多人数での共創がビジネスや日常の標準的なスタイルになっていくでしょう。

活用例として、チームでのブレインストーミングが挙げられます。検索に強いAIで情報を集め、画像生成AIで資料を作るなどの連携が可能です。独自のボットを作成・共有することで、未知のユースケースが生まれることも期待されています。

QuoraのAIプラットフォーム「Poe」は、Amazon Web Services（AWS）と協業し、基盤モデル（FM）のデプロイ効率を劇的に改善しました。統一ラッパーAPIフレームワークを導入した結果、新規モデルのデプロイ時間が数日からわずか15分に短縮され、その速度は従来の96倍に達しています。この成功事例は、複数のAIモデルを大規模に運用する際のボトルネック解消法を示しています。

Poeは多様なAIモデルへのアクセスを提供していますが、以前はBedrock経由の各モデルを統合するたびに、独自のAPIやプロトコルに対応する必要がありました。Poeはイベント駆動型（SSE）、BedrockはRESTベースであり、この違いが膨大なエンジニアリングリソースを消費し、新しいモデルの迅速な提供が課題となっていました。

AWSのGenerative AI Innovation Centerとの連携により、PoeとBedrockの間に「統一ラッパーAPIフレームワーク」を構築しました。この抽象化レイヤーが、異なる通信プロトコルのギャップを埋め、認証や応答フォーマットの違いを吸収します。これにより、「一度構築すれば、複数のモデルを展開可能」な体制が確立されました。

この戦略の結果、新規モデルを統合する際の必須コード変更量は最大95%削減されました。エンジニアの作業内容は、以前の65%がAPI統合だったのに対し、導入後は60%が新機能開発に集中できるようになりました。この生産性向上により、Poeはテキスト、画像、動画を含む30以上のBedrockモデルを短期間で統合しています。

高速デプロイの鍵は、「設定駆動型アーキテクチャ」です。新しいモデルの追加には統合コードの記述は不要で、設定ファイルへの入力のみで完結します。さらに、Bedrockが導入した統一インターフェース「Converse API」を柔軟に活用することで、チャット履歴管理やパラメーター正規化が容易になり、統合作業がさらに簡素化されました。

本フレームワークは、マルチモーダル機能の拡張にも貢献しています。例えば、本来テキスト専用のモデルに対しても、Poe側が画像を分析しテキスト化することで、擬似的な画像理解能力を付与できます。これにより、基盤モデルのネイティブな能力によらず、一貫性のあるユーザーエクスペリエンスを提供可能になりました。

本事例は、AIモデル活用の競争優位性を得るには、個別のモデル連携に時間を使うのではなく、柔軟な統合フレームワークへの初期投資が極めて重要であることを示唆しています。抽象化、設定駆動、堅牢なエラー処理といったベストプラクティスは、AIを大規模展開し、市場価値を高めたい組織にとって必須の戦略となるでしょう。