このプロジェクトは、自動コード生成、正確性チェック、ベンチマーク、改良を通じてワークロードの説明をGPU実装に変換するエージェント型CUDAカーネル最適化ツールを紹介します。LangGraphによって駆動され、エージェントはカーネルの実装と起動構成を探索し、GPUのプロパティをクエリし、NVIDIAのドキュメントを調査して最適化のガイダンスを得ることができます。また、Nsight Computeのカウンターを検査して、次の実験に情報を提供します。各実験は記録され、最速の検証済み実装が保持されます。

モデルはカーネルコードとケースごとの起動構成の両方を変更できます。スタンドアロンのC++ハーネスはNVRTCを使用してカーネルをコンパイルし、CUDAドライバーAPIを通じて起動し、出力を保存します。Pythonは比較と候補選択を処理します。このシステムにはPython 3.12+、NVIDIA GPU、および互換性のあるCUDAツールキット/ドライバーが必要であり、CMake 3.24+およびC++17コンパイラも必要です。セットアップには、仮想環境の作成、依存関係のインストール、Visual Studio 2026でのビルド構成が含まれます。

ユーザーは、ワークロードの説明（たとえば、「長方形行列の単精度GEMM」）とともに最適化ツールを実行し、最大イテレーション数を指定できます。デフォルトのモデルはgpt-5-mini（中程度の推論努力）で、APIの使用はユーザーのアカウントに請求されます。オプションのフラグにより、Nsight Computeを使用したプロファイリングと、カーネル生成前にNVIDIAの研究ガイダンスを取得することが可能になります。

主要なエンティティ: 企業: NVIDIA, OpenAI | 場所: Windows, RTX 3060 Laptop GPU

よくある質問: エージェント型CUDAカーネル最適化ツールとは何ですか？

これは、ワークロードの説明に基づいてCUDAカーネルを自動的に生成、テスト、改良するシステムで、ワークフロー管理にLangGraphを使用し、パフォーマンスプロファイリングにNsight Computeを使用します。