ZMLがAI推論コストを削減するフリーソフトウェア「LLMD」を複数チップブランド向けにリリース

フランスのAIスタートアップZMLが、複数のハードウェアベンダーのチップ上で動作するよう設計された無償の推論高速化ツール「LLMD」をリリースした。AI画像生成のコストと速度に直接的な影響をもたらす動きだ。

主なポイント

• ZMLは、チューリング賞受賞者のYann LeCunの支持を受けたフランスのAIインフラスタートアップである。
• LLMDは、モデルを実際に実行して出力を生成するコンピューティングステップであるAI推論を、特定の1社だけでなく複数ベンダーのチップ上で高速化するフリーソフトウェアだ。
• 推論の高速化・低コスト化により、AI画像・動画生成がプラットフォームと個人クリエイターの双方にとって安価になる可能性がある。
• マルチチップ対応により、AIのスケーリングにおける長年のボトルネックだった特定ハードウェアサプライヤーへの依存を軽減できる。
• TechCrunchによると、LLMDは現在無償で利用可能だ。

推論コストが画像生成において重要な理由

推論とは、AIにおいてほとんどのクリエイターが毎日触れる部分だ。「生成」ボタンを押したとき、モデルがプロンプトを画像に変換する処理がまさにそれにあたる。また、大規模にリクエストを処理するプラットフォームにとって、最もコストのかかる継続的な支出でもある。推論が速くなれば、1ドルのコンピューティングコストあたりの生成枚数が増え、その効果は価格設定・キュー待ち時間・出力品質の上限にまで波及する。

これまでの推論最適化ツールの多くは、特定のチップアーキテクチャ——その代表例がNVIDIAのCUDAエコシステム——に強く依存していた。ZMLがLLMDで打ち出すのは、ハードウェアに依存しない高速化だ。GPUの供給制約が続く中、業界がAMD・Intel・カスタムシリコンなどの代替手段を模索するなか、このソフトウェアは異なるベンダーのチップをまたいで動作するよう設計されており、その意義は大きい。

ZMLとは何か、誰が関わっているか

ZMLはパリを拠点とするスタートアップで、Yann LeCunの公開支持表明もあって注目を集めている。MetaのチーフAIサイエンティストでチューリング賞受賞者でもあるLeCunは研究コミュニティで大きな影響力を持ち、彼との関係がZMLの知名度を一般的なインフラスタートアップをはるかに超えるレベルに引き上げた。同社の焦点は、オペレーターを特定のハードウェアスタックに縛ることなく、AI推論をより速く・安くすることにある。

LLMDは同社初の主要な公開製品リリースだ。無償提供という判断は明確な市場獲得戦略だ。広く採用を促し、LLMDをAIデプロイメントパイプラインの標準レイヤーとして確立し、そこから発展させていく。これはよく知られた戦略であり、PyTorchやHugging FaceのTransformersライブラリがAIスタックのそれぞれのレイヤーで支配的な地位を築いた過程と重なる。

ハードウェア非依存という観点

AIアートプラットフォームにとって、NVIDIA以外のハードウェアで効率的に推論を実行できることは、もはや理論上の話ではなく現実的な課題だ。クラウドプロバイダーはAMD InstinctやカスタムアクセラレーターのフリートをAI拡大しており、一部の画像生成ワークロードはすでにこれらの代替チップ上で動作している。ハードウェアの違いを抽象化しながら競争力のあるスループットを実現するソフトウェアレイヤーがあれば、プラットフォームは現在では不可能なかたちでコンピューティングコストを裁定できるようになる。

Stable Diffusionの派生モデルやその他のオープンウェイト画像モデルを実行するユーザーを中心に拡大しているセルフホストまたはローカル実行モデルのクリエイターにとっては、LLMDにより、主要フレームワークからチップ固有の最適化が降りてくるのを待たずとも、手持ちのハードウェアで体感できるほど高速な生成が可能になるかもしれない。

現時点での不明点

実際のパフォーマンス数値はまだ乏しい。TechCrunchはリリースを報じたが、同等ハードウェア上でのLLMDのスループットをvLLM・TensorRT-LLM・llama.cppなど既存の推論ランタイムと比較した独立したベンチマークはまだ公開されていない。対応するチップベンダーの範囲——正確にどのアーキテクチャがどの程度サポートされているか——についても、本番パイプラインを再構築する前にさらなる詳細が必要だ。

明確なのは方向性だ。推論最適化レイヤーにおける競争の激化は、AIコンピューティングのコストを負担するすべての人、あるいはそれに依存するすべての人にとって好ましいことだ。LLMDがクロスチップの約束を果たせば、ハードウェアベンダーと既存の推論ソフトウェアプロバイダーの双方に対し、自社のパフォーマンスと価格設定を磨くよう意味ある圧力をかけることになる。画像生成クリエイターにとって、モデルサイズが拡大するにつれて生成コストが際限なく上昇するのを抑えるのは、究極的にはその競争にほかならない。