Este projeto apresenta um otimizador de núcleo CUDA agéntico que transforma descrições de cargas de trabalho em implementações de GPU por meio de geração automática de código, verificações de correção, benchmarking e refinamento. Alimentado por LangGraph, o agente explora implementações de núcleos e configurações de lançamento, consulta as propriedades da GPU e pode pesquisar a documentação da NVIDIA para orientação de otimização. Ele também inspeciona os contadores do Nsight Compute para informar seu próximo experimento. Cada experimento é registrado, e a implementação validada mais rápida é mantida.

O modelo pode alterar tanto o código do núcleo quanto as configurações de lançamento por caso. Uma armação C++ independente compila os núcleos com NVRTC, os lança através da API do driver CUDA e salva as saídas. O Python lida com a comparação e a seleção de candidatos. O sistema requer Python 3.12+, uma GPU da NVIDIA e um toolkit/driver CUDA compatível, além de CMake 3.24+ e um compilador C++17. A configuração envolve a criação de um ambiente virtual, a instalação das dependências e a configuração da construção com Visual Studio 2026.

Os usuários podem executar o otimizador com uma descrição de carga de trabalho, como "GEMM de precisão simples com matrizes retangulares", e especificar um número máximo de iterações. O modelo padrão é gpt-5-mini com esforço de raciocínio médio, e o uso da API é cobrado na conta do usuário. Flags opcionais habilitam a criação de perfil com Nsight Compute e a recuperação de orientação de pesquisa da NVIDIA antes de gerar os núcleos.

Entidades-chave: Empresas: NVIDIA, OpenAI | Localizações: Windows, RTX 3060 Laptop GPU

Perguntas frequentes: O que é o otimizador de núcleo CUDA agéntico?

É um sistema que usa agentes de IA para gerar, testar e refinar automaticamente núcleos CUDA com base em descrições de cargas de trabalho, aproveitando o LangGraph para gerenciamento de fluxo de trabalho e o Nsight Compute para perfilamento de desempenho.