詳細を読む
画像編集サービスのPhotoroomは2026年7月6日、7B規模の画像生成モデルPRXを支えたデータ戦略を技術ブログ「PRX Part 4」で公開しました。同社は公開・内部データセットを混ぜて事前学習用コーパスを構築し、全画像を視覚言語モデル(VLM)で再キャプションしたうえで、学習用フォーマットに変換した過程を詳しく説明しています。地味だが品質を左右した工程だとしています。
中核は長文キャプションの効果です。同社は短い説明文から100〜200語の詳細な説明文に切り替えるだけで生成品質が大きく改善したと述べ、FID・CMMD・DINO-MMDの各指標で優位を確認しました。正確に記述すれば広告やロゴ、文字などの「ノイズ」も制御可能な属性として学習でき、後段の選別を軽く保てると説明しています。事前学習は幅、微調整は質という方針です。
データ基盤には二つの形式を使い分けています。数億〜数十億行を対話的に探索するために列指向のLanceで構築・検索し、分散学習にはMosaicのMDSシャードで配信します。キャプション生成にはQwen3-VL-8Bを採用し、H200あたり毎秒20枚の速度と安定したvLLM対応を評価しました。より高品質なQwen3.5-9Bは速度が遅く不安定な依存関係が必要だったため見送りました。
保存形式や計算の設計も実測に基づいて決めています。テキストエンコーダをQwen3-VLへ切り替えた際、テキスト潜在を事前計算せず学習時に逐次計算する方式に変更し、スループット低下は3〜4%に収めました。画像はPNGではなくJPEG品質92で保存し、再符号化の劣化がほぼ知覚できず、PNGと生成品質が事実上区別できないことを確認しています。
選別と重複排除も低コストな手法で実施しました。キャプションのみを読むQwen3-8Bで画像を「見る/読む/NSFW」に分類し、知覚ハッシュで近似重複を除去しています。いずれも元データを書き換えず、シャードごとのスキップリストで除外する仕組みで、後から見つけた品質問題や学習利用を拒否したユーザーのデータにも柔軟に対応できます。PRXはApache 2.0で公開されています。