HeadlinesBriefing HeadlinesBriefing.com

Homaプロトコル:AIクラスター向けTCPの代替

Hacker News •
×

これは、ハードウェアがまだまったくサポートしていないカーネル/NIC/スイッチの連携を必要とするという巨大な(本当に巨大な)制限を見落としているようです。それは、存在しない理論上のハードウェアからの膨大なレベルの調整です。また、メッセージを優先スケジュール/キューにマッピングする場合、何らかの方法でそれをマッピングし、大きなバッファ/スイッチを用意して小さなメッセージを大きなメッセージより優先するなどする必要があります。そして、許可/要求のラウンドトリップ機構が、既存のRoCE実装を凌駕する新たなボトルネックのセットを作り出さないほど軽量であると信頼することになります... Homaを送信側プロトコルよりも効率的にすることはおそらく可能ですが、送信側のボトルネックを処理するためにハードウェアをスケールアップし続ける代わりにそこに到達するための努力が価値があるかどうか、私は本当に懐疑的です。

出典: Hacker News · 要約:HeadlinesBriefing