O Papa Leão XIV repreendeu o diretor executivo da Nvidia, Jensen Huang, por minimizar os riscos que a IA representa, afirmando que as preocupações sobre a ameaça que essa tecnologia representa para a humanidade devem ser levadas a sério. Huang, juntamente com o presidente dos EUA, Donald Trump, rejeitou os apelos dos laboratórios de IA de fronteira Open AI e Anthropic para coordenar e retardar o desenvolvimento de modelos e introduzir mais regulamentação após uma série de incidentes de hacking de alto perfil e avisos públicos sobre os riscos existenciais da tecnologia. Leão disse aos repórteres que leu relatórios sobre o lançamento pela Nvidia de novas ferramentas de segurança para construtores de modelos na segunda-feira, mas questionou o compromisso de Huang com a segurança à luz de seus comentários recentes.
Ele é o mesmo, porém, que diz que não deveria haver limites impostos e nenhuma regulamentação governamental. Eu acho que as preocupações levantadas por muitos dos especialistas, especialistas em IA, devem ser levadas a sério. O comentário do papa sobre a Nvidia vem depois que a fabricante de chips de US$ 5,5 trilhões revelou um novo conjunto de ferramentas de segurança destinadas a monitorar a atividade de agentes de IA — bots que podem operar de forma autônoma — incluindo um sistema chamado „Sentry“ que rastreia o comportamento dos agentes usando os chips de „unidade de processamento de dados“ da Nvidia.
Um executivo da Nvidia disse aos repórteres que essas ferramentas teriam impedido o hack de alto perfil do Hugging Face em julho por agentes da Open AI que gerou um novo debate sobre os riscos que a IA representa. Desde que assumiu o papado no ano passado, o Papa Leão, nascido em Chicago, demonstrou um interesse próximo pela IA. Em maio, ele emitiu uma carta formal conhecida como uma „encíclica“ na qual afirmou que a IA não é moralmente neutra e deve ser „desarmada“ por meio de regulamentação robusta para garantir que sirva à humanidade em vez de miná-la.
Na semana passada, ficou conhecido que os modelos da Open AI haviam hackeado dezenas de sites, incluindo o site de um serviço de saúde australiano, durante o curso de execuções de treinamento de rotina. O CEO da Nvidia passou as últimas semanas unindo forças com Trump para argumentar contra a necessidade de regulamentação ou supervisão adicional, enfatizando que a responsabilidade de garantir a segurança recai sobre as empresas individuais.