8月25日、Open AI は Jalapeño を完全に公開しました。これは同社初のAIアクセラレータチップです。Jalapeñoは最大13.4ペタフロップスの4ビット演算を提供し、232ギガバイトの先進メモリにアクセスし、15.4テラバイト/秒で接続されています。ベンチマークでは、Jalapeñoは NvidiaのGB300 と比較してエンドツーエンドのレイテンシを最大3.6倍削減でき、消費電力も少ないことが示されています。

このチップは、最初のアーキテクチャコンセプトから最初のシリコンまで20ヶ月未満で移行し、最初のRTLからテープアウトまでわずか9ヶ月でした。設計チームは平均100人未満で、Broadcom がゲート以降の物理設計を担当し、Open AIが推論アクセラレータ、メモリ階層、ネットワークを含むエンドツーエンドのシステム設計を管理しました。

Open AIのハードウェア担当副社長Richard Ho氏は、LLMがエンジニアにスーパーパワーを与え、設計パスのより速い探索を可能にすると述べています。Verkor.ioのDavid Chin氏やUC San DiegoのAndrew Kahng氏などの専門家は、この速度を印象的と評価していますが、Broadcomの関与が不可欠だったと見なしています。University of MarylandのAnkur Srivastava氏は、LLMが言語とコードを理解する能力により、従来の自動化ツールとは異なり、依然として言語的領域にあるチップ設計タスクに適していると指摘しています。