OpenAI、日常的な実験を測るAI評価基準を公開

実験データを評価

100の実験課題を収録
画像や測定値を解釈
不確実性の判断も採点

性能向上と課題

GPT-6 Astraは66.7%
GPT-5.6 Solは43.8%
実験判断には改善余地
詳細を読む

OpenAIはバイオ企業Ligoと、AIが日常的なウェットラボ実験をどこまで解釈できるか測るベンチマーク「BioBasicsBench」を公開しました。100課題で生データや実験上の問題を読み取り、証拠が結論を支えるか判断する能力を評価します。

課題はタンパク質実験、顕微鏡画像、測定、核酸、分子クローニングの5領域にまたがります。ゲル画像や細胞画像、実験器具の記録などを使い、実験者が日常的に行う分析を再現しています。

高い推論設定での平均得点は、GPT-6 Astraが66.7%、GPT-5.6 Solが43.8%でした。前者は画像や動画を含むデータの扱いで改善を示しましたが、誤ったラベルや実験の前提に引きずられ、結論を誤る例も残っています。

課題作成には研究者が参加し、別の研究者による内部確認と、ウェットラボ経験を持つ博士号取得者の外部確認を経ています。OpenAIは、ベンチマークを使って実験データの解釈や対照条件の確認を改善し、AIの研究支援と安全性を評価する考えです。