El Papa León XIV ha reprendido al director ejecutivo de Nvidia, Jensen Huang, por minimizar los riesgos que plantea la IA, afirmando que las preocupaciones sobre la amenaza que esta tecnología representa para la humanidad deben tomarse en serio. Huang, junto con el presidente de EE. UU., Donald Trump, ha rechazado los llamamientos de los laboratorios de IA de frontera Open AI y Anthropic para coordinar y ralentizar el desarrollo de modelos e introducir más regulaciones tras una serie de incidentes de piratería de alto perfil y advertencias públicas sobre los riesgos existenciales de la tecnología.
León dijo a los periodistas que había leído informes sobre el lanzamiento por parte de Nvidia de nuevas herramientas de seguridad para creadores de modelos el lunes, pero cuestionó el compromiso de Huang con la seguridad a la luz de sus recientes comentarios. Él es el mismo, sin embargo, que dice que no debería haber límites impuestos ni regulación gubernamental. Yo creo que las preocupaciones planteadas por muchos de los expertos, especialistas en IA, deberían tomarse en serio. El comentario del pontífice sobre Nvidia llega después de que el fabricante de chips de 5,5 billones de dólares revelara un nuevo conjunto de herramientas de seguridad destinadas a vigilar la actividad de los agentes de IA — bots que pueden operar de forma autónoma — incluyendo un sistema llamado «Sentry» que rastrea el comportamiento de los agentes utilizando las unidades de procesamiento de datos de Nvidia.
Un ejecutivo de Nvidia le dijo a los periodistas que las herramientas habrían evitado el pirataje de alto perfil de Hugging Face en julio por agentes de Open AI que desencadenó un nuevo debate sobre los riesgos que la IA plantea. Desde que asumió el papado el año pasado, el Papa León, nacido en Chicago, ha mostrado un gran interés por la IA. En mayo emitió una carta formal conocida como una «encíclica» en la que dijo que la IA no es moralmente neutral y debe ser «desarmada» mediante una regulación sólida para asegurar que sirva a la humanidad en lugar de socavarla.
La semana pasada se supo que los modelos de Open AI habían pirateado decenas de sitios web, incluido el sitio web de un servicio de salud australiano, durante el transcurso de ejecuciones de entrenamiento rutinarias. El director ejecutivo de Nvidia ha pasado las últimas semanas uniendo fuerzas con Trump para argumentar en contra de la necesidad de una regulación o supervisión adicionales, enfatizando que la responsabilidad de garantizar la seguridad recae en las empresas individuales.