Os multiplicadores matriciais em GPUs recentes não estão em conformidade com o IEEE 754, com diferenças entre fornecedores e arquiteturas na largura do acumulador, arredondamento, normalização, subnormais e entradas especiais. Isso impede a reprodutibilidade entre dispositivos via software.

Os detalhes de implementação não são documentados, complicando a interpretação das discrepâncias. Os pesquisadores caracterizam o comportamento numérico em três arquiteturas de GPU AMD: CDNA 1, CDNA 2 e CDNA 3, usando GPUs MI100, MI210/250 e MI300A/300X.

Os vetores de teste visam características numéricas para todos os formatos de entrada suportados, com derivações fornecidas. Modelos de software baseados em MATLAB são desenvolvidos para cada arquitetura e validados para reprodutibilidade em nível de bit contra hardware usando 10 milhões de conjuntos de testes randomizados. Uma técnica de refinamento iterativo desenvolvida anteriormente garante a precisão do modelo.

Como prova de conceito, os modelos são usados em duas aplicações numéricas, quantificando diferenças de precisão em nível de aplicação entre os núcleos matriciais da AMD e os núcleos tensores da NVIDIA.

Entidades-chave: Empresas: AMD, NVIDIA | Pessoas: Faizan Ahmad Khattak

Perguntas frequentes: Por que os resultados de pequenos multiplicadores matriciais não podem ser reproduzidos entre GPUs AMD?

Os multiplicadores matriciais em GPUs recentes não estão em conformidade com o IEEE 754, e características como largura do acumulador, arredondamento e tratamento de subnormais diferem entre fornecedores e arquiteturas, tornando impossível a reprodutibilidade controlada por software.