Hugging Face で Nemotron 3 Nano 4B: A Compact Hybrid Model for Efficient Local AI が公開 ── NVIDIA製ハイブリッドでローカルAIが加速
NVIDIAがHugging Faceに投下した新モデル「Nemotron 3 Nano 4B」が目を見張るものがある。たった40億パラメータという小粒さながら、MambaとTransformerを融合させたハイブリッド構造で、ローカル実行の限界を押し上げてきた。Jetsonや自宅のRTXで、これだけ軽くて賢いモデルが動くとなると、エッジAIの未来はかなり近づいた気がする。
▸何が変わったのか
新モデル「Nemotron 3 Nano 4B」は、Nemotron 3ファミリーで最もコンパクトなモデルとして登場。特徴は何といっても「Mamba-Transformer」というハイブリッドアーキテクチャを採用した点で、40億パラメータという小規模モデルながら高い効率性を誇る。NVIDIA Jetson（Thor/Orin Nano）やRTXシリーズでの動作に特化しており、VRAM使用量やレイテンシは同サイズクラスで最低レベルを達成。ベンチマークでは、命令追従（IFBench, IFEval）やゲームエージェンシー（Orak）において、サイズ別で最先端（SOTA）の精度を記録している。さらに、上位モデルである「Nemotron Nano 9B v2」から蒸留・枝刈りを行って生まれたため、高い推論能力を受け継いでいるのもポイントだ。
◈前モデル / 競合との比較
元となった「Nemotron Nano 9B v2」と比べてパラメータ数は半分以下になったが、Nemotron Elasticフレームワークによる最適化で推論能力を維持。一般的な4Bクラスのモデルと比較すると、特に命令追従性能やツール利用能力、そしてVRAM効率において優位性を持っているとされる。
◈技術背景と意義
このモデルのキモは、従来のTransformerと、注目のMambaアーキテクチャを「ハイブリッド」で組み合わせている点。Transformerの精度とMambaの効率性を両立させ、4Bという小さな体でも高い性能を引き出している。また、大きなモデルから知識を「蒸留」して不要な部分を「枝刈り」する技術で、9Bモデルの能力を凝縮しているのも特徴。要は、無駄をそぎ落として性能をぎゅっと詰め込んだ、まさにエッジデバイス向けの特攻仕様だと言えるだろう。
▸こんな人・用途に
– **ローカルチャットボット開発:** 個人データを外部に送りたくない場合に、RTX搭載PCなどでプライバシーを守ったまま高精度なAIを動かしたい人。
– **ゲーム内AI:** RTX環境下で、Orakベンチマークでも優秀な性能を発揮するため、ゲーミングPC上で賢いNPCや仲介キャラクターを動かしたいクリエイター。
– **エッジデバイス組み込み:** NVIDIA Jetson（Orin Nano/Thor）を使ったロボットや組み込みシステムに、高速応答が必要なAIを組み込みたいエンジニア。
▸Redditの反応
NVIDIAがMambaとAttentionを融合させた新モデル『Nemotron-3-Nano』を発表、WebGPUでブラウザ上で動くのは熱いね。ただ、スレが立ったばかりでまだコメントが付いておらず、反応を待つ状態だ。
◆入手方法・リンク
Hugging Faceで公開されており、NVIDIA GPU環境であれば利用可能（※提供テキストには「オープンソースモデル」との記載があるが、ライセンス等の詳細は要確認）。llama.cppによる量子化版（Q4_K_M）での動作も想定されており、手元のGPUですぐに試せるとのことだ。
SOURCE: Hugging Face (2026-03-18)
