OpenAIの初カスタムチップは「Jalapeño」——モデルアクセスへの影響とは

OpenAIとBroadcomが共同で、OpenAI初のカスタムシリコン「Jalapeño」を発表した。AIインファレンス専用に設計されたASICであり、モデル提供においてNvidia GPUへの依存から脱却する同社初の本格的な一手となる。

主なポイント

• **JalapeñoはASIC（特定用途向け集積回路）**であり、AIインファレンスワークロードの実行という単一タスクに特化して設計されている。トレーニングには対応しない。
• OpenAIはBroadcomと共同でJalapeñoを設計。現在および将来の大規模言語モデルを大規模に動かすことを目的としている。
• カスタムインファレンスシリコンは一般的に、汎用GPUと比較してクエリあたりのコストとレイテンシを削減する——ユーザーの生成速度と頻度に最も直接的に影響する2つの要素だ。
• NvidiaがOpenAIのスタックからすぐに置き換えられるわけではない。OpenAIが自社キャパシティを拡大する中で、既存のGPUインフラを補完する形となる。
• このチップは、IPO候補として浮上するOpenAIが自社のコンピュートサプライチェーンをより強固に掌握しようとする意図を示している。

トレーニングチップよりインファレンスシリコンが重要な理由

AI分野のチップ関連ニュースの多くはトレーニングに焦点を当てている——モデルに重みを学習させる巨大なGPUクラスターだ。しかしインファレンスはその裏側にある。プロンプトを送信してレスポンスを受け取るたびに行われているのがインファレンスであり、継続的かつ大規模に稼働し、OpenAIがクエリに応答するコストを直接左右するスタックの部分でもある。

JalapeñoはASICであるため、搭載されるすべてのトランジスタが一つの目的に最適化されている。モデルのトレーニング、シミュレーション実行、グラフィックスレンダリングなど柔軟に対応できる汎用アクセラレーターであるNvidia H100とは異なり、ASICは柔軟性を犠牲にして効率を追求する。GoogleのTPUやAmazonのInferentiachipも同じ思想に基づいている。インファレンスに限れば、このトレードオフは概ね有利に働く——消費電力の低減、トークンあたりコストの削減、そして多くの場合レイテンシの改善だ。

OpenAIのAPIやChatGPT経由でGPT-4oを利用するクリエイターにとって、上流での実際的な影響はシンプルだ。OpenAIにとってのインファレンスコスト低下は、最終的にはより寛大なレート制限、低いAPIpricing、あるいは高速なレスポンスタイムとして反映されるはずだ——ただし、いずれの結果も保証されておらず、明示されたタイムラインもない。

Broadcomの役割がチップについて示すもの

BroadcomはカスタムAI ASIC向けの主要ファウンドリパートナーの一つであり、すでにGoogleのTPUラインを製造している。OpenAIのJalapeñoへの関与は、このチップが研究用プロトタイプではなく、本格的な量産グレードのシリコンであることを示唆している。The VergeおよびTechCrunchの報道によれば、このチップはラボでのベンチマーク用ではなく、OpenAIのインファレンスインフラへの実装を明確に目的としているという。

「Jalapeño」という名称は、データセンター向けシリコンに多い無味乾燥な英数字命名からの脱却であり、ブランディング上のシグナルか、あるいは定着した内部コードネームのどちらかだろう——OpenAIは明確にしていない。

Nvidia依存という問題

OpenAIはNvidia GPUに数十億ドルを投じており、同社最大の顧客の一つであり続けている。Jalapeñoがその状況を一夜にして変えることはない。フロンティアモデルのトレーニングには依然としてNvidiaの最新ハードウェアが必要であり——OpenAI、Microsoft Azure、その他各社が競って調達してきたH100およびB200クラスターがそれにあたる。Jalapeñoが担えるのは、新規ユーザーの増加に伴ってスケールするインファレンス負荷を処理するために必要なNvidiaチップの数を減らすことだ。

Ars Technicaの報道によれば、このチップはOpenAIが急増する需要に対応するための広範な戦略の一環として位置づけられている——ピーク時にAPIユーザーへの目に見えるレート制限や速度低下を引き起こしてきた問題だ。GPUクラスターと並行して稼働する専用インファレンスASICは標準的な戦略であり、Googleは複数世代のTPUを経てこの移行を実施し、インファレンスコストを実質的に引き下げた。

OpenAIモデルを使うクリエイターにとって何が変わるか

今日、何かが変わるわけではない。Jalapeñoは発表されたものの、大規模な展開にはまだ至っていない。しかし、OpenAIのAPI上で画像生成パイプライン、プロンプトワークフロー、あるいはキャラクターツールを構築している人にとって、この方向性は重要だ。OpenAIが自社シリコンでインファレンスをより安価に提供できるようになれば、GPT-4oおよび将来のモデルのコスト曲線は下方に向かう——そしてそれは、OpenAIのエンドポイントを呼び出すエコシステム内のあらゆるツールの入力コストに直結する。

ワークフローを決める前にプロバイダー間のモデルコストを比較するクリエイターは、今後2〜3四半期でOpenAIのAPI料金が動くかどうかを注視すべきだ。新たに発表されたASICが意味のある展開規模に達するまでの現実的な期間がそれだ。それまでの間、この発表はOpenAIがGPT-4o以降に向けて、モデルの能力だけでなくインファレンスキャパシティをも中核的な競争変数として位置づけていることを裏付けている。