AI半導体

OpenAIとBroadcomの推論チップJalapeño：公式発表の中身と時期

2026/7/3 （更新: 2026/10/13）

🤖 AIを使用して執筆

何が発表されたか

Jalapeño は OpenAI にとって初の独自シリコンである。重要なのは、OpenAI が過去の AI ワークロード向けの設計を転用せずに LLM（大規模言語モデル）推論のためにゼロから設計した点である。OpenAI によれば、同社はカーネル、メモリの動き、ネットワーク、モデルの配信パターンといった推論で効く部分に最適化した。狭い専用機という意味ではない。公式は「業界全体の現在・将来の LLM に対応する柔軟性」を掲げており²、ハードウェア責任者の Richard Ho も「非常に汎用的なデバイス」だと述べている³。8月に OpenAI のラボでベンチマークを回した SemiAnalysis も、OpenAI のモデル専用という見方を誤りとし、さまざまなモデルを動かせる汎用の推論チップだと書いている⁶。ただし OpenAI 自身も、新しいモデル系統ごとにカーネルとモデル別の最適化が要ると書いており、当初の生産計画に無かった公開モデル3種は、AI の助けを借りて2か月以内に高い性能まで持っていったとしている²。OpenAI は、初期設計から製造テープアウトまで約9か月で、その過程で自社の AI モデルの助けを借りたとしている。OpenAI 自身はこの期間について「高性能先端半導体で史上最速の ASIC 開発サイクルだと我々は考えている」と書き添えている（第三者検証ではなく自己申告）²。SemiAnalysis は起点をチームの採用開始に置いて約16か月と数え、テープアウトを2025年11月としている⁶。

数字は早期段階の主張として読むべきものだ。発表時点の現物は、ラボで動くエンジニアリングサンプルである（production target の周波数・電力で ML ワークロードを実行、GPT‑5.3‑Codex‑Spark を含む）²。発表時点で公式が挙げた性能に、他社チップとの比較値は無かった。公式ページは、「主要な AI アクセラレータ並みの電力と処理量に、専用の推論システムに近い遅延を」というくだりも、達成ではなく目標として書いている。

8月25日に OpenAI は最初の測定を公開した。SemiAnalysis の公開ベンチマーク InferenceX 上で NVIDIA の GB200／GB300 系に対し、各チップの公表定格電力あたりのピーク処理量が1.5〜1.9倍、エンドツーエンドの遅延が1.7〜3.6分の1だという²。ただし OpenAI はこの測定を自社のラボで行っており（SemiAnalysis は招かれて同社の技術者と共にベンチマークを回したと書いている）、比較相手は Blackwell 世代である。SemiAnalysis 自身は、HBM4 を積む Rubin 世代はすでに顧客へ出荷され始めている一方で Jalapeño はまだエンジニアリングサンプルの段階だとして、この比較を「不完全で不公平」と書き、比べるべき相手は Rubin だとしている。そのうえで同社は、NVIDIA と CoreWeave が7月に公表した Rubin の値と比べても、データセンターの電力1メガワットあたりの出力トークン数で Jalapeño が上回り、コストあたりではほぼ互角だと書く⁶。Jalapeño 側の値は投機的デコード（下書き用のモデルが候補のトークンを出し、本体のモデルがそれを検証する方式）を使っておらず、Rubin 側は使った値である。SemiAnalysis は、この方式が1トークンあたりの費用を3〜5分の1に下げるので、Jalapeño でも使えばさらに安く回せるとしている⁶。ただし SemiAnalysis によれば、数値は OpenAI が提供したもので、同社自身はラボで走行に立ち会って確かめたにとどまる。測ったのは単一ターンの 8k1k という設定だけで、長いコンテキスト・多ターンの AgentX の結果は見ておらず、対象のモデルも公開モデルの最前線のものではない（同社は、それでも小さなモデルではないと書き添えている）⁶。

約5割のコスト削減については、報道が伝える比較対象は「一般的な AI GPU」というだけで、測定指標もワークロードも示されていない。値そのものも、Broadcom の CEO が「初期サンプルで出ている」と述べたもので、確定値ではない。なお、この数字を語った Broadcom の Hock Tan は Reuters に対し、Jalapeño を NVIDIA の Blackwell と Google の TPU に並ぶものと位置づけているが、これも数値の無い当事者の発言である³。

初期展開と、本格的な立ち上がりの時期は別である。 初期展開が2026年末というのは公式の表現で、公式ページ上の Hock Tan（Broadcom CEO）自身も、Microsoft らとのギガワット級データセンターの展開を「2026年に開始する」と述べている²。だが同じ Tan が発表当日 CNBC には、2026年後半にあるのは「小規模な試作開発」で、本格的な立ち上がりは2027年、フル稼働は2028年前半だと語っている¹。SemiAnalysis も、量産は2027年を通じて徐々に立ち上がり、出荷の大半は2027年末になる予定だと書いている⁶。2026年末に実機が広く回るという話ではない。

顔ぶれはすでに揃っている

自前チップは Jalapeño だけの動きではない。Google は2026年4月、第8世代の TPU で学習用と推論用をチップごと分離し、推論専用の TPU 8i を発表した（CNBC が報じた時点では両チップとも提供は年内予定で、出荷済みではない）。Microsoft は2026年1月に第2世代の AI チップを、Meta は Broadcom と複数版の AI プロセッサを開発中だと公表している。採用も広がっている。Citadel Securities が TPU を使う定量リサーチ用ソフトを作り、米エネルギー省の全17国立研究所が TPU 上の AI コサイエンティストを使っている。ここまでは Google の申告である。複数ギガワット分の TPU 利用を約束した Anthropic のほうは、Google の申告としてではなく CNBC が書いている⁴。Amazon は2025年末の re:Invent で Trainium3 UltraServers の提供を発表し、Amazon Bedrock の本番ワークロードがすでに Trainium3 上で動いていると書いている⁷。推論向けと学習向けを別のチップにする構成も Google が初めてではなく、Amazon は推論向けの Inferentia を2018年、学習向けの Trainium を2020年に発表している⁴。自前設計のアクセラレータで本番の推論を回すことは、もう構想ではない。

そのうえで、NVIDIA を置き換えた企業はまだ無い。第8世代 TPU を報じた記事は、Google が新チップを NVIDIA 製品と比較すらせず自社の前世代を基準に語っている（学習用は第7世代 Ironwood の2.8倍・同価格、推論用は80%向上という言い方である）ことを指摘し、巨大テック各社のいずれも NVIDIA を置き換えてはいない、と書いている⁴。これは Google に限らない。Amazon も Trainium3 UltraServers を前世代 Trainium2 比（演算4.4倍・電力効率4倍）で語り⁷、OpenAI は発表時、電力あたり性能が「現行の最先端より大幅に良い」と述べたが、比較の数値は出していなかった²。本稿が引いた3社のうち Google と Amazon は自社チップの性能を NVIDIA 製品との比較値では語っておらず（Amazon が GPU 比を出したのは顧客1社の事例だけである）、OpenAI が8月に出した比較値は自社ラボでの測定である。 SemiAnalysis は、複数の主要な公開モデルで、同社が試した NVIDIA・AMD・Google のどのチップも Jalapeño が上回ったと書くが、Jalapeño 側の数値は OpenAI が提供したものである⁶。Jalapeño を含む3社のチップを、第三者が自分で測って横並びで比べた材料は公開されていない。

しかも「推論特化チップ」は内製 ASIC の専売ではない。第8世代 TPU を報じた同じ CNBC 記事は、NVIDIA が新興の Groq との取引（CNBC の報道で200億ドル）で得た技術をもとに、モデルがユーザーの問いへ素早く応答できるシリコンを準備していると書いている。NVIDIA によれば、その Groq 3 LPU は SRAM を大量に積む⁴。ただしこの取引は会社ごとの買収ではない。NVIDIA の Jensen Huang は社内メールで「Groq の IP をライセンスし人材を迎えるが、会社としての Groq を買収するわけではない」と書いており、Groq 側も非独占のライセンス契約だと説明している（CNBC は資産の取得と報じており、呼び方は当事者側と一致していない）⁸。NVIDIA 自身も2026年2月提出の年次報告書で、非独占ライセンス契約と一部従業員の雇用であって顧客契約・既存製品・持分は取得していないこと、対価はクロージング時の130億ドルと1年以内に支払う40億ドル（帰属利息込み）であることを開示している⁸。その Groq 3 の LPX ラックについて、NVIDIA は8月24日にフル生産中だと発表し、同社の Dion Harris は「GPU を置き換える話ではなく、ワークロードの部分ごとに適した価格と処理装置を使う話だ」と述べている⁹。

自前チップを持つ側も、他社のアクセラレータを使い続けている。Jalapeño を発表した OpenAI は AWS の Trainium、AMD、Cerebras とも契約しており、CNBC はその理由を「需要の爆発で先端シリコンの供給元が他にも要る」からだと書いている¹。OpenAI 自身も8月の測定結果の中で、学習・推論とも NVIDIA ほかのアクセラレータを引き続き広く展開すると書いている²。Amazon も2025年末の re:Invent で、Trainium3 と並べて NVIDIA GB300 を載せた新インスタンスを発表している⁷。推論への傾斜は、NVIDIA から離れる動きと同義ではない。

「推論が2/3」は「GPUの置き換え」を意味しない

この流れの背景としてよく引かれるのが、AI 計算に占める推論の割合が2023年の約3分の1、2025年の約半分から2026年に約3分の2へ達するという Deloitte の予測だ⁵。Deloitte がこの推移に付けている出典は、推論チップを手がける SambaNova の CEO の寄稿で、2023年と2025年の比までは書くが、2026年の割合を数値では示していない。約3分の2は Deloitte 自身の数値化である⁵。だが、この数字を出した記事そのものの主題は「AI の次の局面は、より少ない計算力ではなく、より多くの計算力を要するだろう」である⁵。

同記事はまず、推論への移行は「推論だけに最適化した（おそらくずっと安い）チップ」を要し、それが巨大データセンターの外のエッジ機器に載るので、データセンターは小さく少なくて済み支出も減るのではないか、という読みを紹介する。記事のリード文は、このうち「より多くのエッジ計算」と「より少ないデータセンター計算」の二つに対して「2026年にはどちらも起こりそうにない」と断じている。ただし同記事は結びの節で、推論向けチップとエッジ処理はどちらも伸びそうだと書く一方で、大規模データセンターへの投資も引き続き要るとしている⁵。推論特化チップの市場は2026年に500億ドル超へ伸び、各社の推論向け ASIC の設計・製造・展開はすでに起きている、と同記事は認める。そのうえで、計算の大半は依然として、2000億ドル超の高価で電力を食う最先端 AI チップの上で実行されるとする。同記事によれば、そのチップが載るのは主に大規模データセンターと企業のオンプレ機材で、エッジ機器のチップの上ではない。市場は「どちらか」ではなく「両方」になりそうだ、というのが結論だ。「推論向けに最適化」が低消費電力を意味するとも限らず、推論のうちプリフィル（プロンプトを処理する段）向けに最適化し、HBM の代わりに GDDR7 を使う製品がラック1本あたり370 kW（同じ供給元の学習向け版の約3倍の電力密度）を要する例も挙げている⁵。

つまり、内製 ASIC の顔ぶれが増えることと、最先端 GPU の需要が減ることは、同じ話ではない。本稿が引ける範囲で確かなのは、推論の載る先が単一ベンダーの GPU だけではなくなったということまでだ。

この記事はAIを使用して執筆されました。内容には誤りが含まれる可能性があります。事実や数字の出典は脚注から確かめられます。