本项目引入了一种基于 LangGraph 的 Agentic CUDA 内核优化器，通过自动代码生成、正确性检查、基准测试和迭代优化，将工作负载描述转换为 GPU 实现。由 LangGraph 驱动，该代理探索内核实现和启动配置，查询 GPU 属性，并可研究 NVIDIA 文档以获取优化指导。它还检查 Nsight Compute 计数器以指导其下一步实验。每次实验都会被记录，并保留最快的验证实现。

该模型可以同时修改内核代码和每种情况的启动配置。一个独立的 C++ 测试套件使用 NVRTC 编译内核，通过 CUDA 驱动 API 启动它们，并保存输出。Python 负责比较和候选选择。该系统需要 Python 3.12+、NVIDIA GPU 以及兼容的 CUDA Toolkit/驱动，并需要 CMake 3.24+ 和 C++17 编译器。设置包括创建虚拟环境、安装依赖项，并使用 Visual Studio 2026 配置构建。

用户可以通过工作负载描述运行优化器，例如“带有矩形矩阵的单精度 GEMM”，并指定最大迭代次数。默认模型为 gpt-5-mini，中等推理力度，API 使用费用计入用户账户。可选标志可启用 Nsight Compute 的性能分析，并在生成内核前检索 NVIDIA 的研究指导。

关键实体：公司：NVIDIA, OpenAI | 位置：Windows, RTX 3060 Laptop GPU

FAQ：什么是 Agentic CUDA 内核优化器？

它是一个使用 AI 代理根据工作负载描述自动生成、测试和优化 CUDA 内核的系统，利用 LangGraph 进行工作流管理，并利用 Nsight Compute 进行性能分析。