HeadlinesBriefing HeadlinesBriefing.com

openTPUオープンソースAI FPGA Qwen3

Hacker News •
×

AIによって開発されたオープンソースのAIアクセラレータ。open TPUはauto-arch-tournamentの教訓をAIアクセラレータにもたらします。それは2つの質問を投げかけます:AIエージェントはハードウェア設計でどこまで到達できるか、そして自分自身の推論を実行するチップを構築できるか?

open TPUは学習プロジェクトでもあります。アクセラレータ全体は、最初から最後まで読める小さなmonorepoにあります:ハードウェア設計(System Verilog)、命令セット、ビット正確なシミュレータ、カーネル言語とそのコンパイラ、そして実際のPCIeカードを駆動するホストソフトウェア。

この設計は、Inspur YPCB-00338カード(Xilinx Kintex-7 xc7k480t、2つのDDR3チャネル)で10の最新モデルを実際の重みで実行し、カードはシミュレータと同じトークンをビット単位で生成します。カードで測定:最初の3つのモデルは2026-09-29に本番イメージdeploy_champ_e698dcd7を使用。Build BはLFM2-2.6B、Smol LM3、Phi-4-miniをe698dcd7より8〜9%高速にデコードし、DRAMピークの91〜94%で動作します。

出典: Hacker News · 要約:HeadlinesBriefing