Hugging Face が Native-speed vLLM transformers modeling backend をリリース ── 専用コード不要でネイティブ実装を超える爆速推論を実現
Hugging Faceのtransformersが、ついにvLLMのネイティブ実装と同等以上のスループットを叩き出すようになった。専用コードを書き直すことなく、フラグ1つ足すだけで爆速推論が手に入るって、かなりエグいアップデートだ。
▸何が変わったのか
今回のアップデートで、transformersのモデリングバックエンドがvLLMの手書きネイティブ実装に「匹敵、あるいはそれ以上」のスループットを達成。検証には異なる特性を持つ3つのQwen3モデル（単一GPUの4B dense、2GPUテンソル並列の32B dense、8×H100ノードでデータ＋エキスパート並列を行う235B FP8 MoE）が使われ、すべての条件でネイティブ実装を上回るか同等の結果をマークした。使い方も非常にシンプルで、起動コマンドに `–model-impl transformers` を追加するだけで機能する。なお、現時点では線形アテンションを使用するモデルは未対応だが、近日中にサポートされる予定。
◈前モデル / 競合との比較
従来のtransformersバックエンド統合と比較して、圧倒的な速度向上を実現した。最大のサプライズは、vLLM開発チームが手作業で最適化しきったネイティブ実装（`–model-impl vllm`）と比較しても、スループットで引けを取らないか、それ以上のパフォーマンスを叩き出している点。
◈技術背景と意義
vLLMのような高速推論エンジンを使うには、通常は各モデル専用にコードを移植する手間がかかる。でも今回の仕組みなら、transformersが提供する自己完結型でわかりやすいモデルコードをそのまま流用し、vLLMの強力な最適化技術（連続バッチングやカスタムアテンションカーネルなど）をフル活用できる。つまり、開発者は複雑なコードを書き直すことなく、タダで超高速な推論環境を手に入れられるってわけ。推論速度を一切犠牲にしていないのが本当にえげつない。
▸こんな人・用途に
新しいアーキテクチャのLLMやVLMを開発し、vLLMの高度な推論最適化をすぐに活用したいモデル開発者。複数のモデルを運用しつつ、それぞれのネイティブ実装を個別にメンテする手間を限界まで削ぎ落としたいインフラエンジニア。
◆入手方法・リンク
vLLMのpipパッケージをアップデートすればすぐに試せる。`uv pip install –upgrade vllm –torch-backend auto` を実行するだけで環境構築完了だ。
SOURCE: Hugging Face (2026-07-08)
