トランスフォーマー（LLM技術）に関するニュース一覧

AI開発基盤を運営するHugging Faceは2026年9月22日、Apple製半導体向けローカルAIツール「oMLX」の開発者・保守担当者Jun Kimが同社に加わると発表しました。副業として育ててきたプロジェクトを、資金付きで継続的に保守できる体制へ移し、開発の安定化と長期的な機能強化を進めます。oMLXはApache 2.0ライセンスを維持し、Jun Kimが引き続き主導します。

MLXは、AppleがローカルAI向けに開発し、Apple Siliconに最適化したフレームワークです。Hugging Faceは、利用者がMLXモデルを探したり、自作モデルを共有したりするHubを提供してきました。

今後はoMLXを新しいアイデアの実験場とし、依存先のmlx-lmやmlx-vlmが担う基盤機能を活用します。成果を関連ライブラリへ還元し、LM Studioを含む既存プロジェクトとの連携も深める方針です。

具体的な重点分野は、Transformers形式のモデル定義を、参照用のMLX実装へ素早く移す仕組みです。その実装を複数の推論エンジンで使えるようにし、各エンジンが独自機能の開発に集中できる環境を目指します。

開発者や企業にとっての注目点は、oMLXの公開性を保ったまま常勤・資金付きの保守体制へ移ることです。発表では個別機能の提供時期や開発日程には触れておらず、今後の更新と関連プロジェクトへの成果還元が判断材料になります。

Hugging Faceは2026年9月22日、機械学習ライブラリTransformersで、llama.cpp向けの量子化モデル形式GGUFを直接読み込み、ローカル実行できる機能を発表しました。初期対応はApple Silicon上のQwen3.5系で、ggmlのMetalカーネルと生成処理の改善を組み合わせ、使い慣れたPythonとPyTorchの環境に高効率な推論を持ち込みます。

利用者はHub上のモデルIDとGGUFファイル名をfrom_pretrainedに渡すだけで、標準のTransformers APIから生成できます。対応する量子化カーネルがなければ重みを展開してメモリ使用量が増え、注意機構のカーネルを取得できない場合はSDPAへ切り替わります。

量子化は精度とメモリ使用量を交換する仕組みで、Qwen3.5-4BのQ4_K_M版は、BF16版の8.42GBから2.74GBまで縮小します。Hugging FaceはQ4_K_Mを出発点とし、余裕があればQ5_K_MやQ6_Kを試し、実際の業務で品質を評価するよう勧めています。

MacBook Pro M2 Maxでの測定では、Transformersは3種類のGGUFモデルでllama.cppに近い生成速度を示しました。ただしTransformers側は入力処理を含み、llama.cpp側は生成部分だけを測るため、同一条件の比較ではありません。効率を最優先するローカル推論には、引き続きllama.cppが推奨されています。

開発者は同じGGUFモデルをPythonで調査・改変し、既存の評価手順や独自の生成処理を使えるほか、OpenAI互換APIとして配信できます。一方、圧縮状態の高速実行は現時点でMPSに限られ、パディングやバッチ処理には課題があり、対応アーキテクチャもQwen3.5のDense版とMoE版などに限定されています。

小惑星採掘技術を開発する米国のスタートアップAstroForgeは2026年9月22日、独自のTransformer型自律制御システム「Solo」を搭載した宇宙船を2027年に打ち上げる計画を明らかにしました。地上の管制要員や通信網への依存を減らし、約2500個のセンサー情報から機体の異常を判断・対処させる狙いです。

Soloは、従来型の制御アルゴリズム、電力や航法などの系統別モデル、機体全体を判断する知能層を組み合わせた仕組みです。位置を見失った際に電力異常と恒星追跡装置の問題を関連付け、復旧策を実行するといった限定的な自律性を目指します。

背景には、2025年に深宇宙へ送ったOdinとの通信を確立できず、制御を回復できなかった経験があります。同社によると、世界5カ所に地上アンテナ網を整備すれば約2億ドルかかるため、機上AIによる代替を検討しました。

Soloはまず、2026年末までの打ち上げが見込まれる3号機DeepSpace-2に搭載され、判断を制御へ反映しない「影運用」で性能を検証します。その後、Stoke Spaceの初打ち上げロケットで2027年のAutonomy-1に臨み、NASA支援の下で太陽に関する科学データを収集する計画です。

宇宙船の制御には信頼性を重視して従来型手法が主流で、記事によると衛星の軌道上位置制御にニューラルネットを使った初の例も2025年でした。AstroForgeの試作機2機はいずれも異常で大半の目標を達成できておらず、DeepSpace-2での検証が次の判断材料になります。

NVIDIAは2026年9月16日、AI推論ベンチマークMLPerf Inference v6.1で、次世代システムVera Rubin NVL72の初のプレビュー結果を公表しました。Qwen3-VLの処理量はGB300 NVL72比で最大3.7倍、DeepSeek-R1では最大2.5倍でした。4ラック構成のGB300は99％の拡張効率も示しました。

Vera Rubinは、Qwen3-VLのオフライン、サーバー、対話の各条件で最大3.7倍の処理量を記録しました。この試験はオープンソースのvLLMとNVIDIA Dynamoを使用し、DeepSeek-R1ではTensorRT-LLMを使って最大2.5倍となりました。

性能向上の背景には、Tensor CoreとTransformer Engine、メモリー使用量を減らすNVFP4精度、入力処理と出力生成を分離する分散サービングがあります。第6世代NVLinkとNVLink Switchは、市販イーサネット比でパケット処理速度を10倍、遅延を3分の1にしたとNVIDIAは説明しています。

GB300 NVL72は、DeepSeek-R1で1ラック72GPUから4ラック288GPUへ拡張した際、処理量がほぼ比例して増え、99％の拡張効率を達成しました。WAN 2.2の文章から動画を生成する試験では、単一ノード比で処理量9倍、遅延7.5分の1を記録しています。

ソフトウェア面では、GB300のQwen3-VL性能がv6.0比で最大1.6倍に向上しました。提出期限後のGPT-OSS-120BとDLRMv3でも追加の改善を示しましたが、こちらはMLCommonsによる未検証の結果です。19社のパートナーも参加し、エッジ機器から複数ラックまで幅広い構成を提出しました。

Tony Wu氏とAurélien Lac氏は2026年9月3日、画像と多言語テキストを単一のTransformerで処理する基盤エンコーダー「NeoMME」を公開しました。260Mと800Mの2モデルをApache 2.0で提供し、生成用デコーダーを省く設計により、文書画像検索の速度、精度、索引容量の両立を狙います。

NeoMMEは、画像を32×32画素のパッチに分割し、テキストと同じ単一の双方向Transformerへ入力します。最大1万6384トークンの文脈長と動的な画像解像度に対応し、別々の視覚エンコーダーや言語デコーダーを持ちません。

事前学習では、多言語テキスト、コード、数学、自然画像、文書画像を混ぜ、各モデルが約5240億の入力トークンを処理しました。テキストを隠して復元するマスク拡散学習を使い、画像付きデータでは高いマスク率により、画像に基づく説明を学ばせています。

文書検索向けのNeoMME-Retrieverは、1回の推論で密ベクトルと遅延相互作用ベクトルを同時に返します。ViDoRe v3では260M版がnDCG@10で0.523となり、評価対象の8億未満モデルで最高でした。NVIDIA L40S上の2048×2048入力では毎秒約51ページを処理し、ColModernVBERTの約26ページのほぼ2倍です。

遅延相互作用索引は高解像度ほど膨らみ、ViDoRe v3で平均約1.5MB／ページでした。階層的トークンプーリングと非対称量子化を組み合わせると、39kBで基準精度の99％超、6kBで95％超を維持しました。利用者は保存予算と検索品質に応じて圧縮設定を選べます。

実務では、PDFページを画像のまま索引化するため、OCR前処理を省き、表や図、配置などの手掛かりを保てます。全チェックポイントはApache 2.0で公開され、Hugging Face Transformersから利用できます。

IBMは25日、思考の連鎖を備えた推論特化の大規模言語モデル群「Granite 4.2」を公開しました。3B・8B・30Bの3サイズで展開し、いずれも約15兆トークンでゼロから事前学習した上で、多段階の強化学習を経て仕上げています。実務でツールを操作するエージェント用途を意識した設計が特徴です。

アーキテクチャはGrouped Query Attentionを採用したデコーダー専用の高密度トランスフォーマーです。事前学習は5段階構成で、序盤は基礎能力の獲得に充て、終盤で文脈長を51万2000トークンまで拡張しています。3サイズとも同一アーキテクチャと学習手順を踏襲し、規模だけを変えている点が特徴です。

事前学習後には、思考過程やツール利用の軌跡を含む約720万件のデータで教師ありファインチューニングを実施しました。エージェント用データが3割超を占め、コーディングやターミナル操作、検索などの実環境タスクを学習しています。品質管理では複数のLLMを審判に用い、幻覚や無効なツール呼び出しを含むデータを除外しました。

仕上げにはGRPOによる多段階の強化学習を導入し、数学やコーディングといった検証可能な報酬から着手しました。8Bと30Bのみ、ソフトウェア開発やターミナル操作、Web検索を実環境で行うエージェント強化学習を追加で実施しています。最終段階では人間の選好や安全性を反映するRLHFで仕上げています。

ベンチマークでは30BモデルがSWE-Bench Verifiedで57.0点、数学コンテストのAIME25で89.17点を記録するなど、規模に応じて性能が向上しています。全モデルはApache 2.0ライセンスで公開され、FP8やGGUFなど複数の量子化版も同時に提供されました。日本語を含む12言語に対応しています。

Hugging Faceは2026年8月18日、文埋め込みライブラリSentence Transformersの最新版で、ColBERTスタイルの後期相互作用（マルチベクトル）型埋め込みモデルを標準機能として公開しました。トークン単位でベクトルを保持し、単一ベクトルでは失われがちな情報を検索時に活用できるようにする狙いです。

従来の密ベクトル型埋め込みモデルは、文章全体を1つの固定長ベクトルに圧縮するため、固有名詞や複数条件を含む複雑なクエリで情報が失われやすいという課題がありました。新しいマルチベクトルモデルはトークンごとに個別のベクトルを保持し、クエリとドキュメントの類似度計算にはMaxSimという手法を用います。各クエリトークンについて最も類似度の高いドキュメントトークンを選び、その合計をスコアとする仕組みです。

今回追加されたMultiVectorEncoderクラスは、PyLateやStanford-NLPのColBERT、ColPaliファミリーなど、これまで形式がばらばらだったチェックポイントを統一的に読み込めるようにしました。これにより開発者は数行のコードでモデルを切り替え、検索やスコアリングを実行できます。

マルチベクトル方式はテキストだけでなく、ページ画像を直接検索する視覚文書検索でも最先端の性能を発揮します。OCRを介さずに画像とクエリを照合できるほか、音声や動画にも同じAPIで対応し、字幕なしで会話を検索する例も紹介されました。

インデックスサイズの増大という課題には、トークンプーリングによって類似ベクトルをまとめ、性能をほぼ落とさずに圧縮する手法が用意されています。またQdrantやWeaviate、Vespaなど主要なベクトルデータベースも後期相互作用検索にネイティブ対応しており、実運用への道筋が整いつつあります。

NVIDIAは8月11日、常時稼働するAIエージェント向けのオープンモデルNemotron 3.5 Lightningと、振り分けライブラリNeMo Switchyardを公開しました。前者は300億パラメータの混合エキスパート型で、同クラス比で最大4倍の出力速度をうたいます。後者は工程ごとに最適なモデルへ処理を振り分け、自社検証では費用をOpus 4.8単独の約3分の1に抑えたとしています。

Lightningは、2025年12月に発表したNemotron 3系のハイブリッドMamba-Transformer構造と潜在型MoEを引き継ぐ30B規模のモデルです。NVIDIAは実タスク評価PinchBenchの結果として、Qwen3.6-35Bと同等の精度に約30%短い時間で到達したと説明します。ただし総合指標のArtificial Analysis Intelligence Indexでは24点にとどまり、30点のNemotron 3 SuperやClaude 4.5 Haikuには届きません。

Switchyardは、エージェントの状態や分類器に応じて呼び出し先を切り替えるオープンソースの振り分けライブラリです。モデルごとの出力トークン量を予測し、呼び出す前に安価な選択肢へ寄せることもできます。LangChainやCognition、Nous Researchといったエージェント基盤に加え、KongやLiteLLM、OpenRouterなどのゲートウェイ側にも組み込まれています。

導入企業の検証値も公開されました。LangChainは145件の多段タスクで最上位モデルへの呼び出しを7%に絞り、精度を6ポイント落とす代わりに費用を74%削減したと報告しています。Rampは自社ベンチマークで精度を保ったまま費用を58%、実行時間を33%削り、CognitionはDevin Desktopの社内利用で平均費用を28%下げました。

背景には、オープンモデルが差別化要因から前提条件へ変わった市場環境があります。中国勢の相次ぐ公開に加え、同じ11日にはMetaが同規模の300億パラメータモデルMuse Glimmerを出しており、NVIDIAはモデルと振り分けの両方を押さえる形で対抗します。LightningはHugging FaceやOpenRouter、build.nvidia.comのNIMで、SwitchyardはGitHubで入手でき、RTX PCやDGX Sparkなど手元の機材でも動きます。

NVIDIAは8月10日、多言語音声合成モデル「Magpie TTS Multilingual」の最新版を公開しました。3億6400万パラメータの小型モデルで、新たにアラビア語・韓国語・ブラジルポルトガル語を加えた12言語に対応し、重みはHugging Face上でオープンモデルライセンスの下に配布されています。狙いは、企業が自社の環境で低遅延の音声エージェントを組めるようにする点にあります。

音声対話で最も体感に響くのは、生成開始から最初の音声が届くまでの時間、TTFAです。NVIDIAの実測値はB200で32ミリ秒、H100で47ミリ秒、A100で79ミリ秒でした。64並列の負荷下でもB200は239ミリ秒に収まり、再生速度の約320倍にあたるスループットを出しています。

この速さを支えるのは2つの設計変更です。デコーダが1回のステップで2フレームを同時に予測するフレームスタッキングが反復回数を半減させ、同時に生成されるトークン間の依存関係をlocal transformerが補正して音質の落ち込みを防ぎます。手法はICASSP 2026の論文として公開されています。

品質も前版から前進しました。フランス語の文字誤り率は2.70%から1.54%へ、スペイン語は1.14%から0.60%へ下がり、話者類似度もあわせて向上しています。新規3言語の文字誤り率は1.62〜2.91%で、今後の改善を測る基準値になります。

企業にとっての要点は、速さそのものよりも自分で制御できることではないでしょうか。重みが手元にあれば、閉域環境での運用やデータ所在地の要件に合わせた配置ができ、NeMoで自社の固有名詞や話者を追加学習させることもできます。Magpieは音声認識のNemotron Speechなどと組み合わせる参照実装「Nemotron Voice Agent」にも組み込まれ、1秒未満の応答を狙う構成例が示されています。

Liquid AIは2026年8月4日、端末上で動くAIエージェント向けの小型モデルLFM2.5-2.6BをHugging Faceで公開しました。パラメータ数は26億と小型ながら、ツール利用や指示追従、複数手順のエージェント処理で最大約4倍の規模のモデルと競う性能を示しました。同社は大量処理を伴う端末内エージェントの用途を想定しています。

比較対象はgemma-4-E2B-it（51億）とgemma-4-E4B-it（80億）、Qwen3.5-4B（47億）、Qwen3.5-9B（97億）で、LFM2.5-2.6Bはこの中で最小です。指示追従系のIFBench、Multi-IF、IFStructではすべて首位となり、ツール利用でもBFCLv4を除いて最高値を記録しました。一方でコーディングのLiveCodeBenchv6は大型モデルが上回っており、同社も用途に応じた使い分けを促しています。

推論速度も特徴です。CPUではApple M5 Maxで毎秒220トークン、AMD Ryzen AI Max+ 395で毎秒113トークンを記録し、必要メモリは2.5GB未満にとどまります。毎秒30トークンあればスマートフォン上でもエージェントを動かせるとしており、GPUでは高並列時に毎秒約1万5000トークン、H100を1枚使えば1日あたり約13億トークンを処理できるとしています。

学習面では約34兆トークンで事前学習し、中間学習の段階で文脈長を128Kまで拡張しました。後訓練は4段階で、教師ありファインチューニングを2周、領域別の専門教師モデルの作成、それらを1つの生徒モデルに蒸留するMOPD、そして実際のエージェント基盤内で回すAgentic RLという構成です。RLではOpenClawやHermes Agentといったハーネスをブラックボックスのまま扱い、Harness Proxyでトークン単位の軌跡を取得する仕組みを採っています。

提供面では、llama.cpp、MLX、vLLM、SGLang、ONNXが初日から対応しています。利用にはtransformersの5.0以上が必要で、指示版とベース版の双方がHugging Faceで公開済みです。ブラウザ上で調査エージェントを試せるWebGPUデモも用意され、手元の環境でどこまで動くかをすぐ確かめられます。

テキサス大学オースティン校のリジー・K・ジョン教授が、掛け算を一切使わないニューラルネットワークの研究成果をIEEE Spectrumで語りました。入力に重みを掛ける代わりに、二値の入力を相互接続したルックアップテーブルへ通す「重みなしニューラルネットワーク」で、用途次第で従来手法の1000分の1のサイズや速度でも同等の精度が出るといいます。狙いはAIの電力消費を根本から減らすことです。

きっかけは数年前に誘われた週次ミーティングでした。ルックアップを使う発想自体は新しくなく、1980年代にイギリスでパターン認識向けの商用製品が作られた後に姿を消し、リオデジャネイロ連邦大学の研究者が細々と続けてきた技術です。ハードウェア実装の経験を見込まれたジョン教授は、半年足らずでFPGA上に動くものを作り、GPUなしで動く極小のネットワークを実現しました。

成果はすでに数字で出ています。人の活動認識や心電図、脳波、血圧といった医療モニタリングのデータセットでは、消費エネルギーが1000分の1で済み、他の小型AIモデルが17メガバイトを要する課題を自チームは14キロバイトでこなしました。ウェイクワードの検出でも、業界最良モデルが1推論あたり5000ナノジュール超なのに対し、42から79ナノジュールで動きます。

小ささは、センサーの上で直接処理できることを意味します。生データを1ミリ秒ごとに送信する必要がなくなり、電力を節約できるうえ、データが端末から出ないプライバシー上の利点も生まれます。曲げられるプラスチック基板に載せた不整脈検出器は論理ゲート約1万個しか使わず、この基板は製造時の水の使用量も通常の半導体より少なくて済みます。

本命はやはり言語モデルです。Transformerはアテンション層と多層パーセプトロンを交互に重ねる構造ですが、ジョン教授のチームはネットワークのおよそ半分を占める多層パーセプトロン部分の置き換えにすでに成功しています。残るアテンション層は未着手で、ここが大規模モデルへ届くかどうかの分かれ目になります。

導入のハードルは高くないといいます。学習データは現行モデルと同じもので足り、むしろ少なくて済む可能性があり、スタックの他の部分を変える必要もありません。ただし学習は当面GPUに頼らざるを得ず、研究者の数もTransformer勢に遠く及ばないため、大規模言語モデルでの実証が仲間を増やせるかどうかが鍵になりそうです。

Alphabet傘下の自動運転企業Waymoは、AIプロジェクトの完成度を「モデルの性能が良いとき」ではなく「評価が通るとき」で判断していると明らかにしました。同社エンジニアリング責任者のマナシ・ジョシ氏が、イベント「VB Transform 2026」で説明したものです。評価を最終確認ではなく開発の中核に据える評価中心の開発を掲げ、テストの成熟度でプロジェクトの成熟度を測ります。

評価は発売前の一度きりの作業ではないとジョシ氏は強調します。Waymoは走行・シミュレーション・検証にまたがる継続的なプロセスとして評価を扱い、モデルや業務プロセス、利用者の行動、入力データの変化に応じてテストを続けます。企業にとっても発売前のテストだけでは不十分で、評価を広い業界ベンチマークではなく実際のビジネス成果に結びつけるべきだと指摘します。

評価の階層は安全という一つの目標に貫かれています。同社は自社の走行ログや一部の外部データ、数十億マイル相当の合成シナリオを用い、交通弱者や踏切、工事区間といった複雑な状況を重点的に検証します。発売の可否は自動化に委ねず、社内の安全責任者による承認など人間の監督を組み込んでおり、これまで2.2億マイル超の完全自律走行で重傷事故が人間の17分の1だったといいます。

一方で計算資源やストレージ、メモリー、ネットワークへの需要は供給を上回って増えており、効率化と信頼性の両立が課題となります。Waymoはデータ選別による効率化を進め、2017年に導入したTransformerから大規模言語モデルや視覚言語モデルへ発展させ、現在は生成系のマルチモーダルモデルを基盤戦略に据えています。

社内では技術者の生産性を高めるためにAIエージェントも活用し、データ分析や不具合の切り分けを任せつつ、その出力の信頼性を評価しています。経営層への示唆は明快です。エージェント型AIには強力なモデルだけでなく、明確な目標、代表性のある評価データ、継続的なテスト、効率的な基盤、そして責任を負う人間の意思決定者が欠かせないという点です。

AIチップを開発する新興企業Etchedは2026年、シリーズCで3億ドル（約450億円）を調達し、企業評価額が103億ドル（約1.5兆円）に達したと明らかにしました。調達はセコイアが主導し、アンドリーセン・ホロウィッツやSKハイニックスなども出資しています。2025年12月時点の50億ドルから約7カ月で評価額を倍増させ、セコイア主導のシリーズCとしては過去最高になったとしています。

Etchedの強みは、推論処理を高速化する独自設計にあります。プロンプトを解釈する「プレフィル」段階では、他社チップより低い電圧で動く専用チップを開発し、発熱を抑えてトランジスタを高密度に集積しました。回答を生成する「デコード」段階では、多数のチップが共有メモリを低遅延で使える「クラスタ規模メモリ」と呼ぶ技術を採用し、高速と低コストの両立を狙います。

同社の製品はチップ単体ではなく、システム一式として販売されます。特定のLLM専用だという誤解が根強いものの、実際にはDeepSeekやQwenといった混合エキスパート型や、非トランスフォーマー型のMambaまで、幅広いAIモデルを動かせると説明しています。

創業当初、トランスフォーマーに特化したチップという発想は無謀とみなされ、最高経営責任者のギャビン・ウーベルティ氏ら3人は多くの懐疑論に直面してきました。しかし先月にはTSMCによる量産チップの製造に成功し、受注はすでに10億ドルに達したと発表しています。アンドレイ・カルパシー氏やジェフリー・ヒントン氏ら著名な研究者が実機を試したことが、今回の資金調達につながったといいます。

人員は400人規模に拡大し、本社の2メガワットのデータセンターに加え、近郊のミルピタスに10メガワットの新拠点を開設しました。ラック型システムの量産と出荷にはなお時間を要しますが、同社は世界有数のAI企業と連携しながら実運用を進めているとしています。

NVIDIAは2026年7月20日、ロサンゼルスで開催中の国際会議SIGGRAPHに合わせ、エージェントAIと物理AIを軸とした一連の技術を発表しました。創作ツールのエージェント連携から、エッジ向けの世界モデル、報道向けの合成動画検出、デスクサイド型のAIエージェント基盤まで、グラフィックスとシミュレーションの領域を幅広く更新する内容です。同社はGPUと開発基盤を通じ、制作現場とロボティクスの双方で生成AIの実装を加速させる狙いです。

主要な創作アプリがModel Context Protocol（MCP）への対応を進め、AIエージェントがシーンやアセットに直接アクセスできるようになります。AdobeはFireflyやCreative Cloudで創作エージェントを拡張し、AffinityはClaude向けのコネクターで自然言語による自動化を導入しました。BlenderやUnreal Engine、Houdiniなども対応し、反復作業をエージェントに任せつつ、創作の最終判断は人間が握る形を保ちます。

今回の目玉の一つが、Hugging Faceで公開されたCosmos 3 Edgeです。40億パラメータのオムニモデルで、テキストや画像、動画、音、行動を扱い、Jetsonなどのエッジ機器上でリアルタイムに推論とロボット行動生成を行えます。同クラスの4BモデルでVANTAGE-Benchのビジョン分析首位に立ち、15Hzでのロボット制御を実現するとしています。

Cosmos 3は自己回帰型と拡散型という二つのトランスフォーマーを組み合わせ、現在の状況把握と未来の予測、行動生成を一つの表現で結び付けます。行動を平行移動・回転・操作状態という幾何ベクトルとして符号化するため、映像の変化と物理的な動きを対応付けられる点が特徴です。開発者は独自データで追加学習し、用途に応じた世界行動モデルを構築できます。

加えてNVIDIAは、DGX Station上でローカル動作するAIエージェント基盤を示しました。オープンモデルのNemotron 3 Ultraやエージェント構築用のNemoClaw、Omniverseツールを一つの筐体で動かし、インターネット接続なしで独自の「スーパーエージェント」を運用できます。報道向けには映像を1フレームずつ解析する合成動画検出のNIMマイクロサービスも投入し、非圧縮映像で最大92%の精度で真偽判定を支援します。

中国のMoonshot AIは今週、オープンソースの新AIモデル「Kimi K3」を公開しました。同社はClaude Fable 5やGPT 5.6 Solといった最上位の専有モデルには依然及ばないとしつつ、評価スイート全体でフロンティア級の性能を示したと主張しています。発表は上海の世界AI大会での習近平国家主席の演説と重なり、ウォール街を動揺させました。金曜にはナスダックが約1%下落し、Nvidiaなど半導体株が売られました。

Arena.aiやVals AIによる独立分析も、Kimiが主力のフロンティアモデルと互角だと示しました。市場と政界の反応は、2025年1月に中国のDeepSeekがオープンソースのR1モデルを公開した際の議論を思い起こさせます。ただ今回は、対中関税戦争やAI企業の新規株式公開(IPO)が近づく中で、緊張がいっそう高まっています。

トランプ政権で元AI担当を務めたDavid Sacks氏は、データセンター建設を阻み州規制を積み上げる米国の姿勢を「AI競争に負けるやり方だ」と批判しました。元Uber CEOのTravis Kalanick氏は、中国勢が米国モデルの出力を「蒸留」していると非難しています。もっとも、米国のモデルもKimiなど中国製の上に構築された例があります。

OpenAIのDean Ball氏は、Kimiを「非常に優れたモデル」と評価し、その性能は蒸留だけでは説明できないとの見方を示しました。同氏はオープンウェイトが支配的な世界の帰結を「AI共産主義」と呼び、中国製オープンモデルの利用に規制上のリスクを生む「ソフトロー」を政権が進めるべきだと主張しています。

一方でAI専門媒体Transformerの編集者Shakeel Hashim氏は、こうした懸念は過剰だと反論します。Kimiは危険なサイバー能力を持たない可能性が高く、中国政府も能力が高まればオープンモデルを制限する同様の動機を持つはずだ、というのがその理由です。

Meta（メタ）やスタンフォード大学、東京大学、フランスの高等師範学校の研究者らは、乳児の視点で世界を理解できるかをAIに問う新テストEgoBabyVLMを公開しました。乳幼児の頭に装着したカメラで撮影した約1000時間の映像をモデルに与え、その世界を説明できるかを判定する試みです。結果として、最先端のモデルはこの雑然とした現実の映像に対して惨敗しました。

1歳児はプログラムを書けなくても、わずか一、二度見ただけで新しい物体を覚え、断片的な観察と身体的な接触から世界を学びます。一方で今日のAIは、膨大な学習データと小国並みの電力を消費します。研究者は、赤ちゃんの脳の構造にこそ、低コストで省エネなAIを実現する鍵があると考えています。

言語面では、2023年のBabyLMが、10歳児が触れる程度の少ないデータで文法を学べることを示し、文法が脳に生得的に備わるとするチョムスキーの説に一石を投じました。しかし物理世界の理解は事情が異なります。ETHチューリッヒの言語学者コッターレル氏は「人間同士のやり取りには、インターネットのような大規模なデータが存在しない」と指摘します。

MITの認知科学者テネンバウム氏は、Transformerがデータのパターン抽出に長ける一方で、物理世界や社会的力学、心の理論といった常識を獲得できないと語ります。純粋なパターン学習だけでは、赤ちゃんが受け取るデータから彼らが学ぶすべてを再現することは難しい、というのです。

打開策も見え始めています。スタンフォード大学のフランク氏らは今年、同じ乳児視点の映像を使い、物体同士が時間とともにどう影響し合うかという因果や時間関係を効率的に学ぶ新型モデルを検証しました。物理推論の基盤を従来より効果的に習得できたといい、物理や社会関係を素早く学ぶよう設計されたモデルが、全体として優れた学習器になる可能性を示しています。

Hugging Faceは2026年7月8日、機械学習ライブラリtransformersを推論エンジンvLLMのモデル実装として使う際、自作の専用実装と同等かそれ以上の速度を出せるようになったと発表しました。モデル作者はコードを移植することなく、既存のtransformers実装のまま超高速なvLLM推論を無料で得られます。対応アーキテクチャであれば、追加の最適化コードは一切不要です。

従来この連携は、推論のボトルネックとなるアテンション処理をvLLM側の実装に差し替えることが中心でした。しかしGPU間の並列化やカーネル融合など、専用移植でしか引き出せない性能領域が残っていたのです。最高性能を求める作者は、結局vLLM向けの独自実装を書き続ける必要がありました。

今回の刷新では、torch.fxでモデルの計算グラフを静的解析し、最適化可能な既知パターンを検出します。その上でAST（抽象構文木）を使ってソースコードを書き換え、Mixture-of-Expertsの専門家並列や、テンソル並列を担うvLLMの融合演算へと実行時に置き換えます。結果として、コードを1行も書かずにネイティブ相当の推論速度が得られる仕組みです。

性能はQwen3系の3つのモデルで検証されました。単一GPU上の4B密モデル、テンソル並列の32B密モデル、そして8基のH100ノード上でデータ並列・専門家並列を使う235BパラメータのFP8 MoEです。いずれの構成でも、vLLMの手書き実装によるスループットに到達または上回ったと報告されています。

利用は`vllm serve`コマンドに`--model-impl transformers`を付けるだけで、テンソル並列などの既存オプションとそのまま併用できます。さらにvLLM専用実装と異なり、transformers実装は学習や評価、RLロールアウトにも同じコードを使える利点があります。なお線形アテンションを使うモデルは現時点で非対応ですが、近く対応予定とのことです。

Allen Institute for AIは6月29日、データ点の集合から分布の密度とスコアを一度の順伝播で同時推定する新モデル「DiScoFormer」をHugging Face上で発表しました。従来は手法ごとに汎用性と精度のどちらかを犠牲にしていましたが、本モデルは再学習なしで両者を両立する点が特徴です。

機械学習や科学の多くの課題は、観測データから元の分布を復元する作業に帰着します。その鍵となるのが密度と、対数密度の勾配であるスコアです。スコアは確率の高い領域へ向かう方向を示し、Stable DiffusionやDALL-Eといった拡散モデルの画像生成や、ベイズ推論、プラズマなどの粒子シミュレーションを支えています。

DiScoFormerはTransformerブロックを積み重ね、サンプル全体を密度とスコアへ写像します。交差注意によりデータのない点でも評価でき、共有バックボーンに密度用とスコア用の2つの出力ヘッドを持たせました。スコアは対数密度の勾配という関係を利用し、両者のずれをラベル不要の整合性損失として推論時に数ステップ最適化することで、未知の入力へその場で適応します。

注意機構はカーネル密度推定（KDE）の一般化にあたります。1つの注意ヘッドの重みはデータ上のガウスカーネルにほぼ等しく、交差注意ブロック1つでKDEを再現できると数学的に示されました。さらに複数のスケールを同時に学習してデータに適応させ、KDEを特殊例として包含しつつ改善する設計です。

学習にはガウス混合モデル（GMM）を用いました。GMMは万能な密度近似器であり、密度とスコアの厳密な閉形式を持つため、バッチごとに新たなGMMを引いて正確な教師信号として供給でき、事実上無制限の学習例を確保できます。

性能面ではKDEを密度・スコアの双方で上回り、100次元ではスコア誤差を約6.5倍、密度誤差を37倍以上低減しました。学習時より多くのモードを持つ混合分布やラプラス分布などにも高精度を保ちます。スコア推定は生成モデルやベイズ推論、科学計算に共通する依存処理であり、再学習不要の汎用推定器は多分野のコストを一括で削減する可能性があると同社は示しています。

米Allen Institute for AI（Ai2）は6月25日、言語モデルの新アーキテクチャであるハイブリッド型が、標準的なトランスフォーマーと比べてどの種類のトークンを得意とするかを解明した研究を公開しました。同社の7B規模モデル「Olmo 3」（トランスフォーマー）と「Olmo Hybrid」を、データやトークナイザー、学習手法をそろえたうえで比較し、予測性能の差がほぼ構造の違いだけを反映するよう設計しています。

分析の結果、ハイブリッド型は名詞・動詞・形容詞といった意味を担うトークンや、代名詞が誰を指すかなど文脈を追わなければ予測できないトークンで明確に優れていました。一方で、入力中に既出の語句をそのまま繰り返すだけのトークンでは優位がほぼ消え、ここではトランスフォーマーが強みを発揮します。反復が長くなるほどハイブリッド型の差は縮まり、ゼロに近づきました。

この違いは両者の仕組みに由来します。トランスフォーマーは全層でアテンションを使い、過去の特定トークンを正確に呼び戻せる反面、入力が長くなると計算コストが急増します。ハイブリッド型は一部のアテンション層を残しつつ大半を再帰層に置き換え、固定サイズの圧縮された記憶で逐次処理するため、入力長によらずコストが一定に保たれるのが特徴です。

両モデルに記事やWikipedia、書籍、論文に加えPythonやHTMLなどの構造化テキストを与え、各トークンの予測精度の差を「loss gap」として測定しました。さらにAi2は1Bパラメータのトランスフォーマー、ハイブリッド、純粋な再帰モデルの3種を用い、特定トークンに絞ったフィルタ済みlossが学習初期から構造差を可視化できることも示しています。

研究が示す教訓は2点です。第一に、全トークン平均の単一lossはアーキテクチャ比較には大雑把すぎ、特定能力を試すトークンに絞ることで差が浮かび上がります。第二に、ハイブリッド型の優位は再帰層の状態追跡能力と関連する可能性があり、Ai2はこの知見を今後のハイブリッドモデル開発に生かす方針です。

NVIDIAは6月24日、HuggingFace Transformersの上に構築するオープンライブラリ「NeMo AutoModel」を公開しました。import文を1行変えるだけで、MoE（混合専門家）モデルのファインチューニングをTransformers v5比で3.4〜3.7倍高速化し、GPUメモリを29〜32%削減します。from_pretrained()など既存APIはそのまま使え、コード改変は不要です。

MoEモデルの学習には固有の難しさがあります。数百の専門家へトークンを振り分け、行列積を一つのカーネルに融合し、重みをGPU間で分割し、通信と計算を重ね合わせる処理が必要だからです。Transformers v5は専門家バックエンドや動的な重み読み込みでこれに対応しましたが、通信と計算を重ねるDeepEPは未実装でした。

NeMo AutoModelはこの欠けた部分を補います。AutoModelForCausalLMを継承し、Expert Parallelism（EP）、DeepEPによる全対全ディスパッチ、TransformerEngineカーネルを追加しました。EPは専門家の重みをGPU間で物理的に分割し、8GPUなら各GPUが専門家の8分の1だけを保持します。これにより、従来は約55GiB必要だった専門家の重みが1GPUあたり約6.8GiBに収まります。

性能評価は2つの規模で実施されました。8GPU単一ノードのQwen3-30B-A3Bでは、v5比でスループットが3.69倍、ピークメモリは29%減。Nemotron 3 Nano 30Bでも3.36倍、メモリ32%減を記録しました。高速化の源はEPによるメモリ削減、DeepEPの通信融合、TransformerEngineの最適化カーネルの3点です。

大規模側では、550BパラメータのNemotron 3 Ultraの全層ファインチューニングを16ノード128GPUで実行しました。Transformers v5はこの規模でメモリ不足になり動作しませんが、EPが専門家を分散することで学習が可能になります。EPが本領を発揮するのは、まさにこの大規模領域です。

NeMo AutoModelの出力は標準的なHF形式のsafetensorsであるため、save_pretrained()で保存した重みはvLLMやSGLangといった推論基盤にそのまま載せられます。NVIDIAは、Transformers v5を使うユーザーにとって本ライブラリが摩擦のない次の一歩になると位置づけています。

Hugging Faceは2026年6月23日、ブラウザ向けAIライブラリTransformers.jsで提案中のCross-Origin Storage（COS）APIを試した結果をブログで公開しました。COSは、複数のサイト間でAIモデルやWebAssemblyの実行環境を重複なく共有することを狙う初期段階の仕様提案です。

問題の背景は、ブラウザのキャッシュがオリジンごとに分離されている点にあります。同じモデルでも別ドメインのアプリを開くと再ダウンロードが必要で、記事の例では177MBもの重複ダウンロードと保存が発生します。これはセキュリティとプライバシー保護のため、キャッシュをサイト単位で隔離している設計に由来します。

さらに、利用するモデルが異なるアプリ同士でも、土台となるONNX Runtimeの共通Wasmファイルを別々に取得・保存してしまいます。最終的なCDNのURLが同一でも、ネットワーク分離キーが一致しないためキャッシュは再利用されません。

COSは、ファイルをURLやオリジンではなく暗号学的ハッシュで識別する仕組みです。navigator.crossOriginStorageというインターフェースを通じ、ハッシュが一致すれば取得元を問わず同一ファイルとして認識し、一度の保存を全サイトで使い回せます。

公開範囲は開発者が制御できます。AIモデルやWasmのように広く共有したい資源はすべてのオリジンに開放し、社内専用モデルは特定オリジンに限定できます。可視性は拡大はできても縮小はできないため、公開資源を悪意ある第三者が制限し直す攻撃を防ぎます。

加えてCOSは書き込み時にハッシュを検証するため、宣言と異なるデータは保存に失敗します。これによりモデルの重みが正しいバイト列かを自動で整合性確認でき、公式CDNでも有志のミラーでも信頼して利用できる点が利点です。

AI創作ツール新興企業のKreaは6月、新たな画像生成AI「Krea 2」のオープンウェイト版を公開しました。学習向けの「Krea 2 Raw」と高速生成向けの「Krea 2 Turbo」の2種で、いずれもHugging Faceから誰でもダウンロードできます。同社はAI画像が画一的になりがちな課題を踏まえ、表現の多様性と高い指示再現性の両立を掲げます。

技術的な中核は、ゼロから構築した120億パラメータの拡散トランスフォーマーです。Turboは知識蒸留により生成工程を8ステップまで圧縮し、一般的な消費者向けハードでも2K解像度の画像を約2秒で描き出します。一方のRawは事後学習や人間のフィードバックによる調整を施さない素の状態で、独自スタイルの追加学習に向く「白紙のキャンバス」と位置づけられています。

想定される使い方は「Rawで学習し、Turboで生成する」という流れです。Rawは作り込まれた作風の偏りがないため、建築製図や特定ブランドの素材といった独自表現を高い忠実度で吸収できます。学習したLoRAはそのままTurboへ移植でき、高速な試作と反復に活用できる仕組みです。

ライセンスは独自の「Krea 2 コミュニティライセンス契約」を採用しました。個人や小規模事業者は無償で商用利用や成果物の収益化ができ、Kreaは生成物の著作権を主張しないと明記しています。一方で席数が50を超える組織は企業向けの有償契約が必要となり、APIの利用も生成ごとに課金される別建てのサービスです。

従来のMITやApache 2.0と異なり、この契約には下流の行動規範が課されています。モデルを自社運用する事業者は、違法素材や同意なき性的画像、児童性的虐待素材、名誉毀損的な生成物を防ぐための入出力フィルターの実装を義務づけられます。怠れば契約違反となり、Kreaは重みの更新やアクセス停止を行う権利を持ちます。

Kreaは2022年にサンフランシスコで創業し、これまでに計8300万ドルを調達、利用者は191カ国で3000万人を超えると説明しています。複数のAIエンジンを束ねる集約サービスから、自社開発モデルを提供する企業への転換を進めてきました。今回の公開は、閉鎖的なAPIに対し制作者の自由度を重視する選択肢として、オープンウェイト市場での競争を一段と高めるものと位置づけられます。

中国の百度系PaddleOCRは6月22日、汎用OCRモデルの最新世代「PP-OCRv6」をHugging Faceで公開しました。文書やスクリーンショット、多言語画像、産業ラベルなど実環境のテキスト検出・認識を狙い、1.5M〜34.5Mパラメータの3階層で軽量さと精度を両立します。VLM全盛の時代に専用OCRの実用価値を示す動きです。

モデルはtiny、small、mediumの3層で構成されます。最小のtinyはエッジ端末向け、mediumはサーバー側の高精度処理向けと、用途に応じてサイズと精度を選べる設計です。small以上の2層は簡体字・繁体字・英語・日本語を含む50言語に対応します。

精度面では、PaddleOCR独自の複数シナリオ評価でmediumが検出Hmean86.2%、認識精度83.2%を記録しました。前世代のPP-OCRv5_serverと比べ、検出で4.6ポイント、認識で5.1ポイント向上しています。

技術面では、検出に大カーネルの軽量特徴ピラミッド「RepLKFPN」、認識に局所文脈と全体注意を組み合わせた「EncoderWithLightSVTR」を採用しました。小さく回転した文字や低解像度、複雑な背景といった難しい入力への対応力を高めています。

展開の柔軟性も特徴です。Transformers、ONNX Runtime、Paddle Inferenceの3つの推論基盤に対応し、`pip install paddleocr`で導入できます。出力は可視化画像と構造化JSONで保存でき、文書解析や検索、RAGやエージェントの処理に組み込めます。

米電気電子学会IEEEは2026年6月22日、専門誌IEEE Spectrumで人工知能の誕生70周年を記念する寄稿を公開しました。執筆者のSan Murugesan氏は、1956年のダートマス会議でAIが正式な学問分野として確立されて以来の歩みを振り返り、その歴史を理解することが技術を善用する鍵になると論じています。

AIの知的源流は1956年より前にさかのぼります。1943年にマカロックとピッツが人工ニューロンの数理モデルを考案し、1950年にはアラン・チューリングが「機械は考えられるか」という問いを投げかけ、後にチューリングテストと呼ばれる評価法を提唱しました。

技術の進化は期待と失望が交錯する道のりでした。1980年代に専門家システムが注目を集めたものの限界が露呈し、資金や関心が冷え込む「AIの冬」を経験します。転機となったのが2017年にグーグルの研究者らが発表したトランスフォーマー技術で、これが今日の生成AIの基盤となりました。

2022年のChatGPT公開以降、AIの普及は電話やテレビ、インターネットを上回る速度で進んでいます。スタンフォード大学のAI Index 2026はこの前例のない採用率を示しており、近年は自律的に動作するエージェント型AIへと進化が続いています。

一方で記事は深刻なリスクも指摘します。AIは確信を持って誤情報を生成する「幻覚」を起こし、偽情報やディープフェイクの拡散を助長しかねません。AIへの過度な依存が人間の判断力や批判的思考を損なう恐れもあると警告しています。

IEEEはAIの進歩を記録するだけでなく、その発展と責任ある利用を主導してきました。100を超えるAI関連標準を策定し、倫理的な設計を促す認証プログラムCertifAIEdを運営しています。記事は、AIを人間中心で信頼でき倫理的なものに保つことが今後の責務だと締めくくっています。

Alibaba Cloudは6月21日、AI動画生成モデル「HappyHorse 1.1」を公開しました。企業向けにAPIを全面開放し、最初の2週間は全機能で40%割引を提供します。OpenAIのSoraが採算難で終了し、ByteDanceのSeedance 2.0も著作権問題で国際展開を凍結するなか、世界2位の実力を武器に企業市場の主役を狙う動きです。

同モデルは4月に匿名でベンチマークに登場し、独立評価サイト「Artificial Analysis Video Arena」で即座に首位を獲得しました。現在は3つのリーダーボード全てで2位につけ、テキスト動画ではGoogleのVeo-3.1を69点上回ります。人間の評価者による比較に基づくEloスコアでの差であり、一時的なぶれではない品質差を示しています。

技術面の強みは、テキスト・画像・動画・音声を単一の150億パラメータTransformerで処理する統合設計です。動画と音声を別々のモデルでつなぐ競合と異なり、一度の生成ですべてを扱うため、外部の吹き替えや後処理が不要になります。導入箇所や依存ベンダーが減り、企業にとって総保有コストの削減につながります。

1.1版では商用制作の課題を狙って改良しました。複数の参照画像で人物の一貫性を保つR2V機能を新搭載し、広告やシリーズ動画で問題となる被写体のブレを抑えます。動作の滑らかさや、機械生成と分かる「肌のテカリ」「過剰な先鋭化」といった不自然な質感も改善されました。

競争環境はAlibabaに有利です。Soraは1日約100万ドルの運用費に対し総収益が約210万ドルにとどまり、4月26日に終了しました。Seedance 2.0はNetflixやDisneyなど大手スタジオの法的警告を受け、国際展開を無期限延期しています。残るはGoogle Veoのみですが、Arenaの評価ではHappyHorseが上回ります。

一方で地政学リスクも残ります。米国防総省は6月8日、AlibabaをBYDやBaiduとともに中国軍企業リストに加えました。即座の制裁ではないものの、企業の調達判断には複雑さを加えます。欧州ではフランスなど現地データセンターを開設し、主権対応のインフラで信頼を得られるかが今後の鍵となります。

IEEEは2026年6月19日、技術者向けにLLMの仕組みを基礎から学ぶオンライン講座「Large Language Models Demystified」を開講したと発表しました。IEEE Learning Networkを通じて提供される全5講座構成のプログラムで、IEEE Educational ActivitiesがIEEE Computer Societyと共同で開発しています。

背景には、LLMを使う人と作れる人の差が急速に広がっている現状があります。LLMはメールや旅行計画に使う一般用途を超え、ソースコードの脆弱性検出や技術仕様の整理など、技術者の日常業務を支える基盤要素になりつつあります。市場は2030年まで年率約33%の成長が見込まれ、実装力は専門技能から必須要件へと変わりつつあります。

講座は単なるプロンプト術ではなく、生成AIの工学的な仕組みに踏み込む内容です。Transformerの自己注意機構や位置エンコーディングをNumPyとPythonで実装し、PyTorchでエンドツーエンドの学習パイプラインを構築します。LoRAなどのパラメータ効率化手法や量子化も扱います。

さらに最適化やアライメント、デプロイの段階では、RLHFやGRPO、RAG、エージェント型AIまで取り上げます。なぜモデルがそう動くのかを理解することで、開発者は試行錯誤から脱し、信頼性の高いAIツールを設計できるようになります。

修了者にはプロフェッショナル開発単位とIEEEのデジタルバッジが付与され、習得した専門性を証明できます。組織単位でチームを育成したい企業は、IEEEのコンテンツ専門家を通じて団体登録や研修プランの相談が可能です。

OpenAIが株式上場（IPO）を前に、AI業界の著名人2人を相次いで迎え入れます。米メディアTechCrunchが6月18日に報じた内容によると、グーグル傘下のDeepMindで「Gemini」開発を主導したNoam Shazeer氏と、トランプ前政権でAI政策を担ったDean Ball氏が、それぞれOpenAIに加わります。上場を控えた時期の人材獲得として注目を集めています。

Shazeer氏は、現代の生成AIの基盤を築いた一人とされる人物です。2017年に発表されTransformerアーキテクチャを提唱した著名論文「Attention Is All You Need」を共著したほか、対話AIの新興企業Character AIを創業しました。2000年から在籍したグーグルを水曜に退社し、今回OpenAIへ移ることになります。

もう一人のDean Ball氏は、政策面での体制を固めるための起用です。同氏はホワイトハウスで米国のAI行動計画の策定に関わった後に退任しており、7月6日付でOpenAIの新チーム「Strategic Futures」を率いると自身のXで表明しました。最高戦略責任者Jason Kwon氏の直属となります。

新チームの役割は、対外的な政策と社内ガバナンスの両面に及びます。Ball氏はブログで、破滅的リスクや再帰的な自己改善、労働市場への影響、そして主要AI研究所と政府・社会との関係を扱うと説明しました。AI研究所がAIガバナンスを主導せざるを得ないとの見方を示しています。

今回の動きは、激しさを増すAI業界の人材争奪を映しています。グーグル、OpenAI、Anthropic、メタといった大手の間で人材の移動が続いており、Shazeer氏の移籍もその一例です。一方で競合のAnthropicは、トランプ大統領が最新モデルへの輸出規制を命じたことで、モデルの公開停止を余儀なくされる苦境に立たされています。

AI開発企業のHugging Faceは2026年6月18日、コーディングエージェントが特定のソフトウェアをどれだけ効率的に扱えるかを測る検証手法を公開しました。同社のライブラリ「transformers」を題材に、最終的な正解だけでなく、答えにたどり着くまでの手数やトークン量、所要時間を計測する点が特徴です。

従来のベンチマークの多くは、エージェントが最終的に正しい答えを出せたかどうかだけを見てきました。しかし同じ結果でも、1コマンドで完了する場合と、40行のスクリプトを書いて何度も再実行する場合では、コストや失敗率が大きく異なります。同社はこの過程の差こそが、ライブラリの設計改善に重要だと指摘します。

検証では各タスクを3つの条件で実行しました。素のインストール状態、ソース全体を複製した状態、そしてCLIの文書と利用例をまとめた「Skill」を読み込ませた状態です。すべてHugging Face Jobs上で同一ハードウェアを使い、モデル・改訂版・タスクの組み合わせごとに並列実行しています。

結果として、CLIとSkillを追加した変更は大型の高性能モデルの作業時間を短縮しました。一方で小型モデルでは逆効果となる場面が確認されています。例えばQwen3-14Bは、Skillを加えると全体の正答率が67%から43%へ低下し、感情分類タスクでは100%から0%まで崩れました。

原因をたどると、小型モデルがSkillを実行可能なツールと誤認し、シェルから動かすべきCLIを直接呼び出そうとして処理を断念していたことがわかりました。同社は、エージェント向けのAPIはモデル規模ごとに評価すべきだと結論づけ、検証手法を自社ライブラリにも適用できる形で公開しています。

東京拠点のAIスタートアップSakana AIは6月15日、初の商用製品となる自律型リサーチエージェント「Marlin」を発表しました。秒単位で回答する従来型チャットボットとは異なり、最大8時間にわたり自己統治的な推論ループを継続し、引用付きで100ページ規模の戦略レポートや役員向けスライドを生成する点が特徴です。同社はこれを「仮想CSO（最高戦略責任者）」と位置づけ、企業や金融機関、シンクタンク向けに提供します。

利用の流れは通常の大規模言語モデルとは根本的に異なります。ユーザーは調査テーマを与え、初回のすり合わせを経た後は作業から離れるだけで、Marlinが自ら仮説を立て、ウェブを調べ、複数の情報源を照合して因果関係を整理します。最終成果物は単なる文章の塊ではなく、要約スライドや付録、参考文献を備えた構造化された戦略オプション群として届けられます。

中核を担うのは、同社が独自に研究してきた探索エンジンAB-MCTS（適応的分岐モンテカルロ木探索）です。研究を可能性の分岐ツリーとして扱い、行き詰まりが見えた局面では新たな仮説を生む「探索」へ、有望な解には監査と改良を重ねる「活用」へと、外部フィードバックに応じて動的に切り替えます。さらに各サブタスクで最適なモデルを選ぶマルチLLM方式へ拡張し、複数の基盤モデルを集合知として組み合わせている点が商用化の鍵となりました。

料金は段階制で、従量課金は1回の実行に100クレジット、追加クレジットは1点98円です。月額15万円のProプランは2,000クレジット、月額40万円のTeamプランは6,000クレジットを含み、大企業向けには個別見積もりのEnterpriseも用意されています。顧客データはオプトイン同意がない限りモデル学習に使わない厳格な方針を掲げ、M&A;や未公開戦略を扱う企業の懸念に配慮しています。

Sakana AIは2023年に、Googleの2017年論文「Attention Is All You Need」の共著者で「Transformer」という語を生んだLlion Jones氏と、元Google Brain研究者のDavid Ha氏が東京で共同設立しました。巨大な単一モデルに頼るのではなく、魚の群れのような小型で専門特化したモデルの協調を志向する設計思想を掲げ、推論時スケーリングで実績を重ねてきました。

2025年後半には評価額が26億ドル超に達するシリーズBを実施し、NvidiaやGoogleに加え、MUFGやCiti、Salesforceといった大手が出資しています。約300人の専門家が参加した4月からの非公開ベータでは、「想定していなかった切り口を発見した」との評価も得ました。AIの価値が速さから思考の深さへ移る中、Sakanaの動向は今後も注目されます。

Sapient Intelligenceの研究チームは、独自のHRM-Text（階層型再帰モデル）アーキテクチャを用いて、わずか約1500ドルで10億パラメータの基盤言語モデルをゼロから訓練したと発表しました。従来、基盤モデルの事前訓練には数百万ドル規模の費用とインターネット規模のデータが必要とされてきましたが、同社はこの常識を覆す結果を示しています。

HRM-Textの核心は、計算を「ゆっくり変化する戦略層」と「素早く変化する実行層」に分離する二層構造にあります。従来のTransformerが生テキストに対して次トークン予測を繰り返すのに対し、HRM-Textは指示と応答のペアのみを訓練データとして使い、タスク完了を目的関数としています。さらに、再帰的な構造で生じる勾配の不安定性を抑えるため、独自の正規化技法「MagicNorm」とウォームアップ手法を導入しました。

ベンチマーク評価では、MMLU 60.7%、GSM8K 84.5%、MATH 56.2%を達成しています。これは20億〜70億パラメータ規模のオープンモデルと同等以上の水準です。訓練に使ったトークン数はQwen・Gemma・Llamaなどの100分の1から900分の1、推定計算量は96分の1から432分の1にとどまります。GPU16台のクラスタで1.9日という短期間で訓練が完了しました。

同社CEOのGuan Wang氏は、企業が直面する課題を「訓練コスト・インフラの重さ・実験サイクルの遅さ」の三重苦と表現しています。HRM-Textは知識の暗記と推論能力を切り離す設計のため、企業は自社データを外部のフロンティアモデルに送ることなく、コンパクトな推論エンジンとして活用できます。外部の検索システムと組み合わせることで、事実情報の取得は別途行う構成が想定されています。

現段階では「ChatGPTの代替にはまだならない」とWang氏自身が認めており、プロダクション利用にはテンプレート設計やアテンションマスクの調整など技術的な作業が必要です。それでも、基盤モデルの訓練コストが1500ドル台に下がるインパクトは大きく、「AIはインフラの問題ではなく戦略の問題になる」と同氏は主張しています。Transformersライブラリでのサポートも始まっており、vLLMやSGLangへの対応も開発中です。

Google DeepMindは2026年6月10日、テキスト拡散モデル「DiffusionGemma」をApache 2.0ライセンスで公開しました。従来の自己回帰型LLMが1トークンずつ逐次的にテキストを生成するのに対し、DiffusionGemmaは画像生成AIと同様の拡散手法を用いて最大256トークンを同時に生成します。これにより、GPU上でのテキスト生成速度が最大4倍に向上します。

モデルはGemma 4ファミリーをベースとした26B規模のMixture of Experts構成で、推論時に起動するパラメータは3.8Bにとどまります。そのため量子化により高性能コンシューマーGPUのVRAM 18GBに収まります。双方向アテンションにより、インライン編集やコード補完、数理グラフなど非線形な生成タスクで従来モデルより優位性を発揮します。

NVIDIAは同日、DiffusionGemmaを自社GPU群で最適化したことを発表しました。単一のH100で毎秒1000トークン超、RTX 5090で毎秒約700トークンの推論速度を実現しています。DGX Spark、RTX PRO 6000、DGX Stationでも動作し、ローカル環境でのエージェント処理や対話型ワークフローに適しています。

Googleはこのモデルを実験的な位置づけとし、品質面では標準的なGemma 4が依然として推奨されると明記しています。一方で、速度重視のローカル推論やリアルタイムの対話型アプリケーション開発において、拡散ベースのテキスト生成が新たな選択肢になると強調しています。Hugging Face TransformersやvLLM、Unslothなど主要ツールで即日利用可能です。

元Amazon幹部のRob Williamsと神経科学者Thomas Reardonが共同設立したFlourishが、Jeff Bezosから約1億ドルの出資を含む総額5億ドルを調達しました。評価額は25億ドルで、Lux Capital、Google Ventures、Catalioなども出資しています。同社は人間の脳の「中核アルゴリズム」を解明し、消費電力50ワット以下で動作する合成知能の構築を目指しています。

現在のLLMは人間の脳と比較して根本的に非効率です。人間の脳が約20ワットで情報処理を行うのに対し、AIチップ1枚で600ワット以上を消費します。さらにLLMは学習後の継続学習ができず、新たなモデルを訓練するたびに膨大なデータと計算資源が必要になります。Reardonは「英語を学ぶのに人類が書いたすべての本を20回読む必要がある、というのは根本的に間違っている」と指摘しています。

Flourishの研究チームは約24名の神経科学者とAI研究者で構成され、ニューヨークのオフィスにはデータセンターが併設されています。DeepMindのProject Astraを率いるGreg Wayneが上級アドバイザーとして参加し、勤務時間の20%をFlourishに充てています。チームは大脳皮質カラムと呼ばれる脳の基本的な計算単位に注目しており、共同創業者Joshua Vogelstenらの研究では、ショウジョウバエの神経回路がトランスフォーマーの10倍効率的であることが示されています。

近い将来の収益化にも着手しています。海馬に着想を得た記憶処理によって、大量の学習データなしで継続学習できるモデルを開発中で、モバイル端末への搭載を見据えて大手チップメーカーとの交渉も進めています。Reardonは5年以内の成果を見込んでいますが、アドバイザーのカリフォルニア大学バークレー校Ben Recht教授は「成功するか確信はないが、実現すればAIは根本から変わる」と述べています。

NVIDIAは2026年6月2日、金融機関が自社の取引データを活用してトランスフォーマーベースの基盤モデルを構築するための開発者向けテンプレート「Build Your Own Transaction Foundation Model」を公開しました。金融業界では不正検知・与信・レコメンドなど用途ごとに個別のAIモデルを運用してきましたが、サイロ化による非効率が課題となっており、統一的な基盤モデルへの移行が加速しています。

先行事例として、RevolutはNVIDIAと共同で「PRAGMA」と呼ばれる基盤モデル群を構築しました。26カ国・2600万ユーザーの240億件のイベントデータで訓練され、与信スコアリングや不正検知など複数領域で既存の専用モデルを上回る性能を示しています。従来数週間から数カ月かかっていた特徴量エンジニアリングが不要になった点も大きな成果です。

Mastercardは数百億件規模の匿名化された取引データで独自の大規模テーブル基盤モデルを開発中で、不正検知やパーソナライゼーションなど幅広い用途を見込んでいます。Adyenは1兆ドル規模の決済処理に基盤モデルを導入し、強化学習でコンバージョン最大化とリスク最小化を実現しています。Stripeは昨年1120億ドルの不正をブロックし、不正率を平均38%削減しました。

NVIDIAの調査によると金融機関の65%がすでにAIを活用し、42%がエージェント型AIの利用・評価を進めています。今回のテンプレートはAWSのSageMaker HyperPodやNebius AI Cloud上で利用可能で、EXL・Infosys・GFT・Thoughtworksなどのサービスパートナーが導入支援を提供します。既存のパイプラインに統合できる設計のため、ゼロからの再構築なしに基盤モデルの恩恵を得られる点が特徴です。

NVIDIAは6月1日、物理AI向けの世界基盤モデル「Cosmos 3」を発表しました。COMPUTEXのGTC台北で公開された本モデルは、テキスト・映像・画像・音・動作という複数のモダリティを単一モデルで処理し、ロボットや自動運転車、スマート空間が現実世界を理解・予測・行動するための基盤を提供します。

最大の特徴は、これまで世界生成・制御生成・シーン理解・方策生成という用途ごとに別々のモデルを使い分けていたものを、1つのモデルに統合した点です。Mixture-of-Transformers（MoT）アーキテクチャを採用し、推論を担う自己回帰部分と生成を担う拡散部分が共同注意で連携します。これにより、視覚言語モデル、映像生成、ロボット方策などを構造を変えずに切り替えられます。

物理AIにとって重要なのは、画像や映像だけでなく動作信号を扱える点です。Cosmos 3はロボットの関節角度やグリッパー位置、軌道点といった数値的な動作データを直接生成でき、ピック&プレース作業などの学習に役立ちます。開発者は特定のロボットや作業環境に合わせて追加学習することも可能です。

活用事例も広がっています。NVIDIAのGEARチームは映像動作モデルの開発に、Agile Robotsは産業用ヒューマノイドの方策開発向けデータ生成に本モデルを利用しています。Linker Visionはスマートシティ向けに数千のカメラ映像を解析し、根本原因分析などに活用しています。

公開形態として、16BのNanoと64BのSuperの2サイズが用意され、いずれもHugging Faceでオープンに提供されます。NanoはRTX PRO 6000など作業用GPUで動作し、Superは大規模な合成データ生成や研究向けです。Linux FoundationのOpenMDW 1.1ライセンスのもと、重みやデータセット、コードを単一ライセンスで扱えます。

性能面でも、Cosmos 3はArtificial Analysisのオープン重みリーダーボードで首位に立ち、Physics-IQやR-Benchなど複数の世界生成ベンチマークでトップを記録しています。衝突や稀なエッジケースなど、現実では安全に再現しにくい場面を合成データで補える点が、物理AI開発の加速につながりそうです。

中国のAIスタートアップMiniMaxは6月1日、大規模言語モデル「M3」を公開しました。100万トークンの文脈長とネイティブな多モーダル機能を備え、主要ベンチマークの一部でGPT-5.5やGemini 3.1 Proを上回りながら、価格は米大手プロプライエタリモデルのわずか8〜20%に抑えた点が最大の特徴です。月額20ドルからのサブスクリプションで提供されます。

性能面では、自律エージェント指標のSWE-Bench Proで59.0%を記録し、GPT-5.5やGemini 3.1 Proを上回りました。BrowseCompでは83.5%を獲得し、Claude Opus 4.7の79.3%を超えています。一方で、先週公開されたClaude Opus 4.8には同指標で69.2%対59.0%と差をつけられ、複雑な推論を要する領域では依然としてクローズドモデルが優位を保っています。

低コストを支えるのが、新開発のMiniMax Sparse Attention(MSA)です。従来のTransformerは入力が長くなるほど計算量が二乗で増えますが、MSAは事前選別でKVブロックを効率処理することでこれを回避します。100万トークン処理時の演算負荷は前世代の20分の1に低下し、デコードは15倍に高速化しました。

同社はM3をオープンウェイトライセンスで10日以内に公開する方針です。これにより企業は自社ハードウェア上でローカル実行でき、公開API経由でのデータ漏洩リスクを排除できます。独自のファインチューニングや内部アーキテクチャの改変も可能になり、汎用モデルを専有資産に転換できる点が、コンプライアンス重視の企業に響きます。

製品面では、AIエージェント「MiniMax Code」がエージェントチーム機能を提供します。生成役と検証役が敵対的に協調する「Producer+Verifier」ループにより、人手の監督なしで数日間自律稼働が可能です。実際の検証では、ICLR2025受賞論文の再現に約12時間自律で取り組み、18件のコミットと23の実験図を生成したと報告されています。

DeepSeek-V4 Pro Maxと比べてもM3はコード合成で優位を保ち、SWE-Bench Proで59.0%対55.4%と僅差で上回りました。次世代のエージェント開発は、巨大なデータセットだけでなく、効率的なアーキテクチャ設計が鍵を握ることをM3は示しています。

Hugging Faceは2026年5月27日、小型ヒューマノイドロボット「Reachy Mini」の音声会話機能を完全にローカル環境で実行する方法を公開しました。従来はクラウドへの音声送信が必要でしたが、同社のspeech-to-speechライブラリを使い、VAD（音声区間検出）からSTT（音声認識）、LLM（大規模言語モデル）、TTS（音声合成）までの全パイプラインをローカルマシン上で動作させることが可能になりました。

技術構成はカスケード方式を採用しています。音声区間検出にはSilero VAD v5、音声認識にはParakeet-TDT 0.6B v3、音声合成にはQwen3-TTSを推奨構成として選定しています。各コンポーネントは独立しており、より高品質なモデルが登場すれば個別に差し替えられる設計です。

LLMの推論基盤はllama.cpp、MLX、Transformers、vLLMなど複数の選択肢に対応しています。推奨モデルはGemma 4のE4B量子化版で、llama.cppでは`brew install`一発で導入でき、64Kコンテキストウィンドウとフラッシュアテンションによる高速推論が可能です。Apple Silicon搭載MacではMLX経由でQwen3-4Bも低遅延で動作します。

プライバシーとコスト面のメリットも大きいです。音声データが一切外部に送信されず、APIの従量課金も不要になります。ロボットと推論サーバーを別マシンで動かす場合も、LAN内のIPアドレスを指定するだけで接続できます。

Responses APIプロトコルに準拠しているため、ローカル推論だけでなくHugging Face Inference EndpointsやOpenAI互換プロバイダーへの接続も同じインターフェースで切り替え可能です。vLLM 0.21.0以降ではMulti-Token Predictionによるさらなる低遅延化も実現しています。

Hugging Faceの開発者Tom Aarsen氏は2026年5月19日、Sentence Transformers向けのクロスエンコーダー型リランカー「Ettin Reranker」ファミリーとして、17Mから1Bパラメータまで6つのモデルを公開しました。いずれもジョンズ・ホプキンス大学が開発したModernBERTベースのEttinエンコーダーを基盤としており、学習データと学習スクリプトもあわせてオープンソースで提供されています。

学習手法には、既存の高性能リランカーmxbai-rerank-large-v2（15.4億パラメータ）を教師モデルとしたポイントワイズMSE蒸留が採用されています。約1億4300万件のクエリ・文書・スコアのトリプルで学習し、学習率とバッチサイズ以外のハイパーパラメータは全サイズ共通です。学習スクリプトはわずか約150行で、誰でも同じレシピを再現できます。

ベンチマーク結果では、すべてのモデルが同サイズ帯で最高精度を達成しました。17Mモデルは従来広く使われていたms-marco-MiniLM-L12-v2（33Mパラメータ）をNDCG@10で+0.051上回り、32Mモデルは17倍のパラメータを持つBAAI/bge-reranker-v2-m3（568M）を+0.025超えています。最大の1Bモデルは教師モデルとのMTEBスコア差がわずか0.0001に収まりました。

推論速度でも大きな優位性があります。17MモデルはH100 GPU上で毎秒7517ペアを処理し、MiniLM-L6-v2の約2倍の速度を実現しました。1Bモデルは教師モデルの2.4倍の速度で、精度をほぼ維持しながら大幅な高速化を達成しています。この速度差は、モジュラーTransformerアーキテクチャによるアンパディング処理とFlash Attention 2の組み合わせによるものです。

検索システムの実務では、高速な埋め込みモデルで候補を絞り込み、リランカーで最終順位を決める「retrieve-then-rerank」パターンが標準的です。Ettinリランカーは全モデルが最大8192トークンのコンテキストに対応し、Apache 2.0ライセンスで公開されているため、既存のMiniLM系リランカーからの移行が容易です。

AI研究機関AllenAIは2026年5月19日、衛星リモートセンシング向け基盤モデル「OlmoEarth v1.1」を公開しました。前バージョンと同等の性能を維持しながら、計算コストを最大3分の1に削減したモデルファミリーです。マングローブの変化追跡や森林減少要因の分類、国規模の作物マッピングなど、環境保護に関わるパートナー組織の活用拡大を目指しています。

効率化の鍵は、Transformerモデルのトークン系列長の短縮にあります。従来のOlmoEarth v1では、Sentinel-2衛星画像の10m・20m・60mという3つの解像度帯ごとに別々のトークンを生成していました。v1.1ではこれらを単一トークンに統合し、トークン数を3分の1に圧縮しています。Transformerの計算量は系列長の二乗に比例するため、この削減が大幅なコスト低減につながります。

ただし、解像度帯の単純な統合は精度低下を招きます。実際、素朴な統合ではm-eurosat kNNベンチマークで10ポイントもの精度低下が確認されました。AllenAIは事前学習の手法を改良することでこの課題を克服し、v1と同等の性能を実現しています。学習データセットはv1と同一のため、手法変更の効果を厳密に分離して検証できる点も研究面で価値があります。

モデルはBase・Tiny・Nanoの3サイズで提供され、Hugging Face上で重みと学習コードがオープンソースとして公開されています。AllenAIは、より効率的なモデルにより自組織のプラットフォームでより多くのパートナーを支援でき、独自運用するチームにとっても惑星規模の地図更新がより手頃になると説明しています。

PaddleOCR 3.5が2026年5月18日にリリースされ、Hugging Face Transformersを推論バックエンドとして選択できるようになりました。PP-OCRv5やPaddleOCR-VL 1.5といったOCR・文書解析モデルを、engineパラメータひとつでTransformersバックエンドに切り替えて実行できます。

RAGや文書エージェントの構築では、PDFやスキャン画像を構造化データに変換する前処理が精度を左右します。PaddleOCRはこの文書取り込み工程を担うOCR・文書解析モデルを提供してきましたが、従来はPaddlePaddle固有の推論エンジンが前提でした。今回の対応により、PyTorch/Transformersベースのインフラを使うチームでも統合の手間が大幅に減ります。

使い方はシンプルで、PaddleOCRのコンストラクタにengine="transformers"を指定するだけです。engine_configでdtypeやアテンション実装の選択も可能で、開発環境に合わせた最適化ができます。Hugging Face Spacesではライブデモも公開されています。

注意点として、OCR・文書解析のスループットを最大化したい場合は、PaddleOCRのデフォルトであるpaddle_staticバックエンドが引き続き推奨されます。Transformersバックエンドは既存のバックエンドを置き換えるものではなく、開発スタックに応じて推論バックエンドを選べる柔軟性を提供するものです。

IBMは2026年5月14日、オープンソースの多言語埋め込みモデル「Granite Embedding Multilingual R2」を発表しました。97Mパラメータのコンパクトモデルと311Mパラメータのフルサイズモデルの2種類で、いずれもApache 2.0ライセンスのもと、200以上の言語と9種類のプログラミング言語に対応します。

最大の注目点は97Mパラメータモデルの検索性能です。MTEB多言語検索ベンチマークで60.3を記録し、100M未満のオープンな多言語埋め込みモデルとしては最高スコアとなりました。同規模で次点のmultilingual-e5-smallの50.9を9.4ポイント上回っています。前世代のR1モデルからはアーキテクチャの刷新やトレーニング手法の改良により、12.2ポイントの大幅な改善を実現しています。

技術面では、エンコーダをXLM-RoBERTAからModernBERTに刷新し、コンテキスト長を512トークンから32,768トークンへ64倍に拡大しました。これにより長文文書の検索精度が劇的に向上し、LongEmbedベンチマークでは31.3ポイントの改善を記録しています。法務文書や技術マニュアルなど、実務で扱う長い文書の検索において大きな恩恵をもたらします。

311MモデルはMatryoshka表現学習に対応しており、768次元の埋め込みを256次元に削減してもMTEB多言語検索で0.5ポイント低下にとどまります。ストレージや計算コストを3分の1に抑えつつ高い検索品質を維持できるため、大規模な本番環境への導入に適しています。

企業利用を強く意識した設計も特徴です。MS-MARCOデータセットや非商用ライセンスのデータを使用せず、IBMが独自にキュレーションしたデータで学習しています。sentence-transformersやLangChain、LlamaIndex、Haystack、Milvusといった主要フレームワークにモデル名を1行変更するだけで導入できるため、既存のRAGパイプラインへの組み込みも容易です。ONNX・OpenVINO形式のウェイトも同梱されており、GPUなしでのCPU推論にも対応しています。

Hugging Faceは2026年5月14日、LLM推論における連続バッチ処理（Continuous Batching）を非同期化し、生成速度を22%向上させる手法を技術ブログで公開しました。従来の同期方式ではCPUとGPUが交互に稼働するため、GPU待機時間が全体の約24%に達していたことが問題の背景です。

従来の連続バッチ処理では、CPUがバッチを準備している間GPUは遊休状態となり、GPUが計算している間CPUも待機するという非効率が生じていました。8Bモデルで8Kトークン生成の実験では、全生成時間300.6秒のうち約72秒がGPUのアイドル時間でした。この「交互動作」のボトルネックを解消するために、CPU側のバッチ準備とGPU側の計算を同時に走らせる非同期方式が提案されています。

技術的には3つのCUDAストリーム（ホスト-デバイス転送、計算、デバイス-ホスト転送）を用い、CUDAイベントでストリーム間の依存関係を制御します。バッチNの計算中にバッチN+1の入力をCPU側で準備し、GPUへ転送しておくことで待ち時間をなくす仕組みです。データ競合を避けるため入出力テンソルを2スロット用意し交互に使う「ダブルバッファ」方式を採用しています。

もう1つの課題は、バッチNの出力トークンがバッチN+1の入力に必要な点です。これには「キャリーオーバー」と呼ばれる手法で対処します。バッチN+1の入力にプレースホルダー（値0）を置いておき、バッチNの計算完了後に実際のトークンを上書きする処理をCUDAグラフに組み込んでいます。

同じ8Bモデル・8Kトークン・バッチサイズ32の条件で検証した結果、GPU稼働率は76.0%から99.4%に向上し、生成時間は300.6秒から234.5秒へと22%短縮されました。モデルのカーネル変更は一切不要で、CPUとGPUの協調スケジューリングだけで達成しています。実装はtransformersライブラリに統合済みで、強化学習など16K以上の長文生成ユースケースでさらなる最適化を進めるとしています。

Palo AltoのスタートアップZyphraは2026年5月7日、オープンソースの推論特化型言語モデルZAYA1-8BをApache 2.0ライセンスで公開しました。総パラメータ数は約84億、活性パラメータはわずか7.6億という超効率設計で、AMD Instinct MI300 GPUのみで訓練された点が大きな特徴です。

ZAYA1-8Bは独自のMoE++アーキテクチャを採用しています。圧縮畳み込みアテンション（CCA）によりKVキャッシュを従来の8分の1に削減し、長文脈での推論効率を大幅に向上させました。さらにMLPベースのルーター設計やPID制御に着想を得た安定化手法など、Transformer基盤に根本的な改良を加えています。

最大の技術的突破は推論時の計算手法Markovian RSAです。複数の推論トレースを並列生成し、末尾部分のみを集約して再推論するという手法で、コンテキスト窓を溢れさせずに深い思考を実現します。これによりAIME '25で91.9%、HMMT '25数学で89.6%（Claude 4.5 Sonnetの79.2%を上回る）、LiveCodeBenchで69.2%（DeepSeek-R1-0528超え）という驚異的なスコアを記録しました。

事前学習段階から推論能力を組み込む「推論ファースト事前学習」も特徴的です。長い思考連鎖がコンテキストに収まらない場合、問題設定と最終回答を保持しつつ中間部分を刈り込むAnswer-Preserving Trimmingを開発し、問題と解答の関係を効率的に学習させています。

企業にとっての実用的意義は大きく、活性パラメータ760Mという軽量さはオンデバイス展開やエッジ推論を現実的にします。データ所在地の制約やAPI依存コストといった課題を解消し、高度な推論能力をローカル環境で利用可能にします。AMD GPUでの訓練成功は、Nvidia一強への有力な対抗軸が成立することを示しました。2025年にユニコーン評価を得たZyphraは、AMDやIBMの支援のもと「パラメータを増やす」以外のAI進化の道筋を示しています。

NVIDIAは2026年4月28日、マルチモーダルAIモデルNemotron 3 Nano Omniを公開しました。このモデルはテキスト・画像・動画・音声を単一のアーキテクチャで処理できるオムニモーダルモデルで、AIエージェントの構築を効率化することを目的としています。パラメータ規模は30B（アクティブ3B）で、従来のように複数モデルを組み合わせる必要がなくなります。

性能面では、文書理解のMMLongBench-DocやOCRBenchV2、動画理解のWorldSense、音声理解のVoiceBenchなど6つの主要ベンチマークでトップの精度を記録しています。同等の対話性能を持つオープンなオムニモデルと比較して、マルチドキュメント処理で7.4倍、動画処理で9.2倍のシステム効率を実現しました。

アーキテクチャの核となるのは、23層のMamba状態空間モデル、23層のMixture-of-Experts（128エキスパート、Top-6ルーティング）、6層のグループ化クエリアテンションを組み合わせたハイブリッド構成です。視覚側にはC-RADIOv4-Hエンコーダを採用し、動的解像度処理により100ページ超の文書やGUIスクリーンショットにも対応します。音声側にはParakeet-TDT-0.6B-v2エンコーダを搭載し、最大20分の音声入力をネイティブに処理できます。

想定される活用領域は、企業文書の分析、GUI操作を行うコンピュータ使用エージェント、長時間の動画・音声理解、自動音声認識、そして汎用的なマルチモーダル推論の5分野です。すでにH Company、Aible、Eka Care、Foxconnなどが採用を進めており、Dell Technologies、Oracle、Infosysなども評価段階にあります。

モデルはオープンウェイトで公開されており、BF16・FP8・NVFP4の各チェックポイントがHugging Faceからダウンロード可能です。訓練データや手法も公開されているため、NVIDIA NeMoを使った独自のカスタマイズが可能です。NVIDIA Jetsonのようなエッジデバイスからデータセンター、クラウドまで幅広い環境にデプロイでき、Nemotronファミリー全体では過去1年で5,000万回以上のダウンロードを達成しています。

Redisの研究チームが、RAGパイプラインにおける埋め込みモデルの精度チューニングが、汎用的な検索精度を最大40%低下させる可能性があることを明らかにしました。論文「Training for Compositional Sensitivity Reduces Dense Retrieval Generalization」は、構文的に類似しているが意味が異なる文を識別する訓練が、広範なトピックにわたる検索性能を著しく損なうことを実証しています。この問題は特にエージェント型AIパイプラインにおいて深刻で、検索エラーが下流の推論チェーン全体に連鎖的な誤りを引き起こします。

問題の根本は、埋め込みモデルが文全体を高次元空間の単一ベクトルに圧縮する仕組みにあります。「犬が人を噛んだ」と「人が犬を噛んだ」のように、単語が同じでも構造が異なる文は同じ近傍に配置されてしまいます。構文感度を高める訓練を行うと、モデルは汎用的な検索に使っていた表現空間を消費し、2つの目的が同一ベクトル上で競合します。

研究チームは、ハイブリッド検索、MaxSimリランキング、クロスエンコーダ、コンテキストメモリといった既存の代替手法をすべて検証しましたが、いずれも構造的な誤りの検出には不十分でした。キーワード検索は同じ単語を含む文の構造差を判別できず、MaxSimは関連性と同一性という異なる目的を混同します。クロスエンコーダは精度は高いものの、本番規模のクエリ量には耐えられません。

研究が検証した解決策は2段階アーキテクチャです。第1段階では従来通りの密ベクトル検索で候補を幅広く取得し、第2段階で小型の学習済みTransformerモデルがトークンレベルで構造的不一致を検出します。この検証器は、否定反転や役割逆転といった単一ベクトル方式が見逃す失敗パターンを、他のどの手法よりも確実に捕捉しました。

Redis AI研究リーダーのSrijith Rajamohan氏は、RAG自体は依然として有効なアーキテクチャだが、精度が求められるワークロードでは単一段階のパイプラインを本番対応と見なすべきではないと強調しています。2段階方式はレイテンシの増加を伴うため、法務・会計など精度重視の用途では完全検証を、汎用検索では軽量な検証を選択するというトレードオフの判断が求められます。この手法はRedisのLangCache製品への組み込みが計画されていますが、現時点では未提供です。

NASAはナンシー・グレース・ローマン宇宙望遠鏡を当初予定より8カ月早い2026年9月に打ち上げると発表しました。同望遠鏡は運用期間中に2万テラバイトものデータを天文学者に届ける見通しです。すでにジェイムズ・ウェッブ宇宙望遠鏡は毎日57ギガバイトの画像を送信しており、チリのヴェラ・C・ルービン天文台も年内に観測を開始して毎晩20テラバイトを生成する予定です。かつてのハッブル望遠鏡の日量1〜2ギガバイトとは桁違いの規模であり、天文学は本格的なビッグデータ時代に突入しています。

カリフォルニア大学サンタクルーズ校の天体物理学者ブラント・ロバートソン教授は、NVIDIAと15年にわたり協力してGPUを天文学に応用してきました。同教授の研究室が開発した深層学習モデル「Morpheus」は、自動運転車と同じ意味的分割手法を用いてピクセル単位で銀河を分類します。JWSTデータへの適用により、初期宇宙に存在するはずがないとされていた回転円盤銀河を多数発見し、宇宙の進化理論に新たな知見をもたらしました。この発見は当初懐疑的に受け止められましたが、その後独立した複数の研究で確認されています。

ロバートソン教授はMorpheusのアーキテクチャを畳み込みニューラルネットワークからTransformerに移行する作業を進めており、分析可能な領域が数倍に拡大する見込みです。また、NVIDIAのDLSSに概念的に近い手法を用い、宇宙望遠鏡のデータで訓練したモデルを地上望遠鏡の画像に適用することで、大気による歪みを除去して宇宙望遠鏡に近い鮮明さを実現しています。さらに大学院生が開発した「GalaxyFriends」というツールにより、約9万個の銀河を類似性に基づいて整理し、パターンの発見や異常検出を効率化しています。

一方で研究を支えるGPUインフラの確保は深刻な課題となっています。ロバートソン教授はNSFの助成金でサンタクルーズ校にGPUクラスタを構築しましたが、設備は陳腐化しつつあり、AI手法を使いたい研究者は増える一方です。さらにトランプ政権がNSF予算の50%削減を提案しており、研究基盤の維持が一層困難になる懸念があります。ロバートソン教授は「大学はリソースの制約からリスク回避的になる。研究者は起業家的に行動し、この分野の進む方向を示す必要がある」と述べています。

MIT発のスタートアップOpenProtein.AIは、AIを活用したタンパク質設計ツールをノーコードプラットフォームとして提供しています。共同創業者のTristan Bepler氏（MIT博士課程修了）とTim Lu氏（MIT元准教授）が立ち上げた同社は、機械学習の専門知識がない生物学者でもAIの最先端モデルを使えるようにすることを目指しています。

同社のプラットフォームは、直感的なWebインターフェースを通じてタンパク質工学の作業を実行できます。中核となる独自モデルPoET（Protein Evolutionary Transformer）は、進化的制約を学習してタンパク質配列群を生成し、再学習なしで新たな実験データを取り込むことが可能です。2025年にリリースされたPoET-2は、はるかに少ない計算資源とデータで大規模モデルを上回る性能を達成しました。

大手製薬企業Boehringer Ingelheimは2025年初頭から同プラットフォームを利用しており、がんや自己免疫疾患の治療用タンパク質設計に向けた協業を拡大しました。学術研究者には無料で提供されており、ラボの規模やリソースに関わらず最先端のAIツールへのアクセスを可能にしています。

今後は、タンパク質の結合イベントを超え、複数の生物学的メカニズムを同時に制御する動的タンパク質の予測・設計に取り組む方針です。Lu氏は「AI資源が一部に集中し、一般の研究者が使えなくなるリスクがある。オープンアクセスは科学の進歩に不可欠だ」と述べ、AI研究基盤の民主化の重要性を強調しました。

HuggingFaceは2026年4月16日、transformersライブラリのモデルをAppleのMLXフレームワーク（mlx-lm）に移植するためのSkillとテストハーネスを公開しました。このSkillはClaude Codeのエージェント機能を活用し、コントリビューターとレビュアーの双方を支援することを目的としています。transformersに新モデルが追加された際、速やかにMLXでも利用可能にすることを目指しています。

Skillは単なるコード生成ツールではなく、モデル移植に必要な一連の作業を体系化したものです。Hub上のモデル検索・ダウンロード、仮想環境構築、transformersのモデリングコード読解、MLX実装の作成、テスト実行までを一貫して行います。RoPE設定のバグやfloat32精度汚染といった、経験豊富な開発者でなければ気づきにくい問題も自動的に検出します。

品質担保のために、Skillとは別に非エージェント型のテストハーネスも開発されました。LLMの幻覚や過信に依存しない再現可能な検証を提供し、結果はサマリーレポート、モデルごとの詳細、生のJSON出力として保存されます。ただしこのハーネスはCIゲートではなく、最終的な判断はレビュアーとコントリビューターに委ねられます。

ブログではコードエージェント時代のオープンソース貢献の在り方についても問題提起しています。transformersのようなライブラリでは暗黙の設計契約が重要であり、エージェント生成のPRがレビュアーの負担を増大させている現状を指摘しました。今後はビジョン言語モデル向けのmlx-vlmやllama.cppへの対応拡張、テストハーネスの自動化が検討されています。

Hugging Faceは2026年4月16日、Sentence Transformersライブラリでマルチモーダル埋め込みモデルとリランカーモデルを学習・微調整する方法を解説するブログ記事を公開しました。テキストだけでなく画像・音声・動画を扱えるモデルの学習が、既存のテキスト専用パイプラインとほぼ同じコードで実現できます。

実践例として、Qwen3-VL-Embedding-2Bを視覚文書検索タスクで微調整する手順が紹介されています。テキストクエリに対して関連するドキュメントのスクリーンショットを検索するタスクで、微調整後のモデルはNDCG@10を0.888から0.947に改善しました。これは8Bパラメータの大型モデルを含む既存のすべてのモデルを上回る成績です。

学習にはCachedMultipleNegativesRankingLossとMatryoshkaLossを組み合わせて使用します。前者は勾配キャッシュにより限られたGPUメモリでも大きな実効バッチサイズを確保でき、後者は埋め込みベクトルを任意の次元数に切り詰めても高い性能を維持できるよう訓練します。512次元への圧縮でもピーク性能の99.7%を保持するという結果が示されています。

さらに、マルチモーダルなクロスエンコーダ（リランカー）モデルの学習方法も紹介されています。画像からテキスト、テキストから画像の双方向の照合を1つのモデルで学習する手法が示されており、Routerモジュールを使った別々のエンコーダの組み合わせにも対応しています。ドメイン固有データでの微調整がモデルサイズの拡大よりも効果的であることを実証した、実践的なガイドとなっています。

米マサチューセッツ工科大学（MIT）CSAILなどの研究チームは2026年4月9日、AIモデルを学習しながら同時に圧縮する新手法「CompreSSM」を発表しました。従来は大型モデルを訓練後に枝刈りするか、小型モデルを最初から訓練するかの二択で性能と効率のトレードオフが避けられませんでしたが、この手法は訓練の途中で不要な内部次元を切り落とすことで両立を実現します。状態空間モデル（SSM）を対象に、言語処理から音声生成、ロボティクスまで幅広い応用が視野に入ります。

鍵となるのは、制御理論由来のハンケル特異値という数学的指標です。研究チームは各内部状態がモデル全体の挙動にどれだけ寄与するかを測定し、訓練のわずか約10%の段階で重要度ランキングが安定することを発見しました。その後は不要な次元を外科的に除去し、残り90%の訓練を大幅に軽量化されたモデルで進めることが可能になります。

ベンチマークの結果は顕著です。画像分類タスクでは、圧縮モデルがフルサイズと同等の精度を保ちながら訓練速度を最大1.5倍に引き上げました。広く使われる状態空間アーキテクチャ「Mamba」では128次元モデルを約12次元まで圧縮し、約4倍の訓練高速化を達成しています。CIFAR-10では4分の1サイズで85.7%の精度を記録し、同サイズをゼロから学習した場合の81.8%を上回りました。

既存手法と比べた優位性も明確です。訓練後に削る従来の枝刈りや、教師モデルと生徒モデルを二重に訓練する知識蒸留と異なり、CompreSSMは訓練中に情報を基に判断するためコスト増を避けられます。スペクトル正則化手法と比較しても40倍以上高速で、精度も上回ったといいます。

一方で制約もあります。この手法は内部状態の次元と性能の相関が強いモデルで最も効果を発揮し、単入力単出力の構造では恩恵が限定的です。理論は線形時不変系に最も適合しますが、チームはMambaのような時変系への拡張も進めています。論文はICLR2026で発表予定で、将来的には線形注意機構やトランスフォーマー系への応用も視野に入れています。

Hugging Faceは4月9日、オープンソースの埋め込みライブラリSentence Transformers v5.4を公開し、テキストに限定されてきた埋め込みとリランキングの機能を画像・音声・動画にまで拡張しました。開発者は従来と同じAPIを使いながら、モダリティをまたいだベクトル検索やRAGパイプラインを構築できるようになります。視覚的な文書検索やクロスモーダル検索といった新しい用途を、少ないコード変更で取り込める点が最大の特徴です。

中核となるのは、異なるモダリティの入力を共有埋め込み空間に写像する多モーダル埋め込みモデルです。テキストクエリと画像文書を直接比較でき、同じsimilarity関数で関連度を評価できます。ブログの例では「黄色い建物前に駐車された緑の車」というテキストが、該当する車の画像に対して最も高い類似度を示し、ハードネガティブの誤マッチが抑えられることが示されました。

リランカー（CrossEncoder）も多モーダル化され、テキスト・画像・動画を組み合わせたペアにスコアを付与できます。エンベディングで高速に候補を絞り込み、リランカーで精度を高めるという2段構えの検索パターンが、マルチモーダル文脈でも標準化されました。rank()やpredict()は従来と同じインターフェースのまま、複合入力を受け付けます。

対応モデルにはQwen3-VL-Embedding-2B/8B、NVIDIA llama-nemotron-embed-vl、jinaai/jina-reranker-m0などが含まれ、統合コレクションから即座に利用できます。2BクラスはVRAM約8GB、8Bクラスは約20GBを必要とし、CPUでは推論が著しく遅いためGPU環境の利用が推奨されています。

設定面では画像解像度や精度を制御するprocessor_kwargsとmodel_kwargsが用意され、従来のtokenizer_kwargsは非推奨となりました。経営層やエンジニアにとって、社内ドキュメントのスクリーンショットや動画アーカイブを横断検索する基盤を、既存の知識資産を活かしたまま整備できる点が実務的な価値です。

UAE・技術革新研究所（TII）のFalconチームは2026年4月1日、画像認識・セグメンテーション・OCRを単一のTransformerで処理するオープンソースモデル「Falcon Perception」を公開しました。パラメータ数はわずか6億で、従来のパイプライン型システムに代わる統合的なアプローチを提案しています。

Falcon Perceptionの最大の特徴は、画像パッチとテキストトークンを最初の層から同一のパラメータ空間で処理する「早期融合」アーキテクチャです。画像トークンには双方向注意、テキストトークンには因果的注意を適用するハイブリッドマスクにより、1つのモデルで視覚エンコーダとテキストデコーダの両方の役割を果たします。

オープン語彙セグメンテーションベンチマークSA-Coでは、Macro-F1で68.0を達成し、Meta社のSAM 3の62.3を上回りました。特に属性認識で+8.2、食品・飲料カテゴリで+12.2と大きな差をつけています。一方、存在判定の精度（MCC 0.64対0.82）ではSAM 3に及ばず、今後の改善課題として示されています。

同時に発表されたFalcon OCRは0.3Bパラメータの文書認識モデルです。olmOCRベンチマークで80.3点、OmniDocBenchで88.6点を記録し、DeepSeek OCR v2やGPT 5.2を上回る性能を示しました。オープンソースOCRモデルとして最高のスループットを実現し、vLLM統合によりA100上で毎秒2.9画像を処理できます。

チームは性能評価のため、能力別に分類した診断ベンチマーク「PBench」も公開しました。単純な物体認識（L0）から関係推論（L4）まで5段階に分かれ、Falcon Perceptionは空間理解でSAM 3に+21.9点、OCR識別で+13.4点と、プロンプトが複雑になるほど差が拡大する結果となっています。

学習には5400万枚の画像と1億9500万の正例表現、4億8800万のハードネガティブを使用しました。3段階の学習レシピにより、シーン理解からタスク特化、高密度シーン対応へと段階的に能力を獲得させています。モデルとコードはHugging Faceで公開されており、Apple Silicon向けのMLX統合やDockerサーバーも提供されています。

清華大学とZ.aiの研究チームは、スパース注意機構の冗長計算を最大75%削減する新技術IndexCacheを発表しました。20万トークンの長文コンテキストにおいて、最初のトークン生成までの時間を最大1.82倍、生成スループットを1.48倍高速化する成果を示しています。

大規模言語モデルの自己注意機構は、文脈長に対して二乗の計算量が必要となり、長文処理のボトルネックとなっていました。DeepSeek Sparse Attention（DSA）はコア注意の計算量を線形に削減しましたが、各層のインデクサモジュール自体が依然として二乗計算を行っており、長文になるほど処理時間が急増する問題が残っていました。

研究チームは、DSAモデルにおいて隣接するトランスフォーマー層間でインデクサが選択するトークンの70〜100%が共通であることを発見しました。この冗長性を活用し、少数の「F層」でのみインデクサを実行して結果をキャッシュし、残りの「S層」ではキャッシュを再利用する手法を開発しました。

GLM-4.7 Flash（300億パラメータ）での実験では、75%のインデクサを削除してもプリフィル遅延が19.5秒から10.7秒に短縮されました。推論品質も維持され、長文ベンチマークでは原版とほぼ同等のスコアを記録しています。7440億パラメータのGLM-5でも10万トークン超で1.3倍以上の高速化が確認されました。

企業導入においては、RAGや文書分析、エージェントパイプラインなどの長文処理で約20%のコスト削減が見込まれます。vLLMやSGLang向けのオープンソースパッチがGitHubで公開されており、既存の推論基盤に最小限の設定変更で統合可能です。研究チームは、将来のモデル設計において推論効率が設計段階から考慮される方向性を示唆しています。

Mistral AIは2026年3月26日、企業向けテキスト音声合成モデル「Voxtral TTS」をオープンウェイトで公開しました。パリ拠点の同社は、競合他社がAPIベースの従量課金モデルを採用する中、モデルの重みを無償提供し、企業が自社サーバーやスマートフォン上で自由に運用できる方針を打ち出しています。

技術面では、34億パラメータのTransformerデコーダ、3.9億パラメータのフローマッチング音響変換器、3億パラメータの自社開発ニューラルオーディオコーデックの3層構造を採用しています。初音声までの遅延はわずか90ミリ秒で、リアルタイムの約6倍速で音声を生成します。量子化すれば約3GBのRAMで動作し、旧型ハードウェアでもリアルタイム処理が可能です。

同社の人間評価では、ElevenLabs Flash v2.5に対して62.8%、音声カスタマイズでは69.9%の選好率を達成しました。わずか5秒の参照音声で声質を複製でき、ゼロショットの多言語クロスリンガル音声適応も実現しています。9言語に対応し、話者のアクセントや声質を保持したまま言語を切り替えられるため、多国籍企業の顧客対応や社内コミュニケーションに大きな可能性があります。

この公開は、Mistralが過去1年で構築してきた企業向けAIフルスタック戦略の集大成です。音声認識モデル「Voxtral Transcribe」、カスタマイズ基盤「Forge」、本番運用基盤「AI Studio」と組み合わせることで、外部プロバイダーに依存しない音声エージェントパイプラインが完成します。CEOのArthur Mensch氏は年間売上10億ドル超の見通しを示しています。

同社科学担当副社長のPierre Stock氏は、音声データには感情やアイデンティティが含まれ、金融・医療・政府機関にとって第三者APIへの送信はコンプライアンス上のリスクだと指摘しました。欧州ではデジタルサービスの80%以上を米国企業に依存しており、Mistralはデータ主権を重視する欧州企業の受け皿として、今後は完全エンドツーエンドの音声AIモデルへの進化を目指すとしています。

a16z（アンドリーセン・ホロウィッツ）は、自社ポッドキャスト「The a16z Show」でAIが産業・国防・医療・消費者市場に与える影響を多角的に取り上げる特集シリーズを一斉公開しました。投資家・起業家・政府関係者が登壇し、各分野の最前線を語っています。

AtlassianのCEOマイク・キャノンブルックスは、SaaS企業の株価急落について「すべてのソフトウェア企業が同じAIリスクに直面しているわけではない」と指摘しました。記録型からプロセス型へのシフトと、エンタープライズワークフローにおけるAIエージェントの信頼構築が鍵だと述べています。

消費者AI市場では、ChatGPTがウェブ利用でClaudeの30倍の規模を維持していることが判明しました。a16zのオリビア・ムーアは、3大プラットフォームがそれぞれ異なるユーザー層に特化しつつあり、メモリ機能が最も過小評価されている機能だと分析しています。

国防分野では、エミール・マイケル国防次官が技術優先分野を14から6に絞り込み、応用AIを第1位に据えたことを明かしました。前政権下で締結された商用AI契約がベンダーロック危機を生み、現役の軍事作戦にリスクをもたらしていた経緯も初めて詳細に語られています。

AGI研究に関しては、コロンビア大学のヴィシャル・ミスラがトランスフォーマーの内部動作を数学的に解明した最新研究を紹介しました。LLMはパターンマッチングに留まっており、AGI到達には訓練後も学習を続ける能力と因果関係の理解が不可欠だと指摘しています。

Microsoft ResearchのDoug Burger氏が新ポッドキャスト「The Shape of Things to Come」を開始し、第1回では同社研究員のNicolò Fusi氏とNumentaのSubutai Ahmad氏を招き、現在のAIシステムが本当に知的かを議論しました。

トランスフォーマーの仕組みについてFusi氏は、注意層がトークン間の関係性を把握し、フィードフォワード層が知識を格納する二層構造だと説明しました。さらにLLMを情報理論的な無損失圧縮器と捉える見方を示し、より良い生成モデルの構築は最適な圧縮器の探索と等価であると主張しました。

Ahmad氏は脳の千脳理論を解説し、大脳新皮質には約10万個の皮質コラムが存在し、それぞれが独立した感覚運動処理システムとして完全な世界モデルを構築していると述べました。成体マウスの研究では4日ごとにシナプスの30%が入れ替わることが判明しており、脳は投機的に新しい接続を形成し不要なものを刈り込む継続学習を行っています。

効率性の面では、脳はわずか約12ワットで70兆のシナプスを動かしている一方、同規模のパラメータを持つモデルをGPUで動かすとメガワット級の電力が必要になるとAhmad氏は指摘しました。ニューロンの活動は常時わずか1%で、接続も1%しか使われておらず、極めてスパースな表現が省エネの鍵となっています。

Fusi氏はLLMを「既に知的だが凸凹な知能」と評価する一方、Ahmad氏は3歳児が持つ好奇心と継続学習能力がLLMには欠けていると反論しました。Burger氏は小型の「デジタル皮質コラム」を大量に配置し感覚運動ループで結合する構想を提示し、Ahmad氏はそれこそが超知能システム構築の道筋だが、現在のアプローチとは根本的に異なると結論づけました。

AmazonがFire Phone撤退から10年以上を経て、Alexa+AIアシスタントを中核に据えた新型スマートフォンの開発を進めていることが、Reutersの報道で明らかになりました。コードネーム「Transformer」と呼ばれる同端末は、社内のZeroOneグループが開発を主導しています。

開発チームを率いるのは、MicrosoftでZuneやXboxを手がけたJ・アラード氏です。チームはスマートフォンと「ダムフォン」の両方のデザインを検討しており、白黒ディスプレイとアプリストア非搭載が特徴のミニマリスト端末Light Phoneからインスピレーションを得ているとされます。

2014年に発売された初代Fire Phoneはアプリ不足と低調な売上により1年で撤退に追い込まれました。今回はChatGPTのようなミニアプリ方式を採用し、従来型アプリストアへの依存を回避する戦略が検討されています。AIが生成するUIにより、アプリそのものが不要になる可能性も示唆されています。

市場アナリストからは厳しい見方も出ています。IDCのジェロニモ副社長は「ハードウェアでAppleやSamsungに対抗するのは不可能」と指摘し、メモリ危機や関税による製造コスト上昇も懸念材料に挙げました。一方で、Alexa+を搭載した常時携帯型のコンパニオンデバイスとしての可能性には一定の評価を示しています。

プライバシー面では、Amazonがデジタル権利ランキングで下位に位置し、Alexa音声データの広告利用が過去に指摘されている点が大きな課題です。専門家は、スマートフォン参入によりデータ収集の規模が飛躍的に拡大し、広告事業強化の手段となる可能性を警告しています。発売時期や価格は未定で、計画自体が中止される可能性も残されています。

カーネギーメロン大学のAlbert Gu氏とプリンストン大学のTri Dao氏らの研究チームが、新たなAIアーキテクチャ「Mamba 3」をApache 2.0ライセンスのオープンソースとして公開しました。Transformer対比で約4%の言語モデリング性能向上を達成しています。

Mamba 3は状態空間モデル（SSM）の最新版で、従来のTransformerが抱える二次計算量と線形メモリ要求の課題を解決します。前世代のMamba 2が学習速度の最適化に注力したのに対し、Mamba 3は「推論ファースト」の設計哲学を採用し、GPUの遊休時間を最小化する構造となっています。

技術面では3つの革新が柱です。第一に指数台形離散化により2次精度の近似を実現。第二に複素数値SSMと「RoPEトリック」で、従来不可能だったパリティ判定などの論理推論タスクを解決。第三にMIMO方式により演算強度を最大4倍に引き上げ、メモリ律速の推論フェーズでもGPUの計算コアをフル活用します。

企業にとっての最大の利点は総保有コストの削減です。15億パラメータ規模でベンチマーク平均精度57.6%を達成し、Transformerを2.2ポイント上回りました。状態サイズを半減しながら同等の予測品質を維持するため、同一ハードウェアで推論スループットが実質2倍になります。リアルタイムエージェントや長文コンテキスト処理に特に有効です。

ただし課題も残ります。Transformerエコシステムの成熟度には及ばず、量子化では標準的な4ビット手法で精度が大幅低下する問題があります。またインコンテキスト学習ではAttention機構に劣る面もあり、業界はNvidiaのNemotron-3のようなMambaとAttentionを組み合わせたハイブリッドアーキテクチャへ収束しつつあります。

NVIDIAは2026年3月17日、40億パラメータの軽量言語モデル「Nemotron 3 Nano 4B」をオープンソースで公開しました。Mamba-Transformer混合アーキテクチャを採用し、エッジデバイスでの高効率な推論を実現するモデルです。

同モデルはJetson ThorやJetson Orin Nano、DGX Spark、RTX GPUなど幅広いNVIDIAプラットフォームで動作します。低VRAM環境でも高速な応答が可能で、データプライバシーの確保と柔軟なデプロイを両立しています。

開発にはNemotron Elasticフレームワークが用いられ、9Bパラメータの親モデルから構造化プルーニングと知識蒸留により4Bモデルへ圧縮されました。ルーターが自動的に最適な枝刈り構成を決定し、従来手法より低コストで高精度なモデルを実現しています。

学習では教師あり微調整に続き、指示追従とツール呼び出しに特化した3段階の強化学習パイプラインを適用しました。推論時の思考なしでもタスク解決に優れ、ハルシネーション回避性能も高い水準を達成しています。

量子化ではFP8版で最大1.8倍のレイテンシ改善を達成し、Q4_K_M GGUF版はJetson Orin Nano 8GBで毎秒18トークンを出力します。Transformers、vLLM、TRT-LLM、Llama.cppなど主要推論エンジンに対応し、Hugging Faceで公開中です。