Papst Leo XIV hat den CEO von Nvidia, Jensen Huang, kritisiert, weil er die durch KI entstehenden Risiken heruntergespielt hat, und gesagt, dass die Bedenken hinsichtlich der Bedrohung, die diese Technologie für die Menschheit darstellt, ernst genommen werden sollten. Huang, zusammen mit dem US-Präsidenten Donald Trump, hat die Aufrufe der KI-Frontier-Labore Open AI und Anthropic abgelehnt, die Modellentwicklung zu koordinieren und zu verlangsamen sowie mehr Regulierung einzuführen, nachdem es eine Reihe von prominenten Hacking-Vorfällen und öffentlichen Warnungen über die existenziellen Risiken der Technologie gegeben hat. Leo sagte den Journalisten, er habe Berichte darüber gelesen, dass Nvidia am Montag neue Sicherheitstools für Modellbauer eingeführt habe, aber er hinterfrug Huangs Engagement für Sicherheit angesichts seiner jüngsten Kommentare.

Er ist jedoch derselbe, der sagt, dass keinerlei Grenzen gesetzt und keine staatliche Regulierung eingeführt werden sollten. Ich glaube, dass die Bedenken, die viele Experten, Spezialisten für KI, geäußert haben, ernst genommen werden sollten. Der Kommentar des Papstes zu Nvidia erfolgt nachdem der Chiphersteller mit einem Marktwert von 5,5 Billionen Dollar einen neuen Satz von Sicherheitstools vorgestellt hat, die darauf abzielen, die Tätigkeit von KI-Agenten — Bots, die autonom arbeiten können — zu überwachen, einschließlich eines Systems namens „Sentry“, das das Verhalten der Agenten anhand von Nvidias „Data Processing Unit“-Chips verfolgt.

Ein Nvidia-Executive sagte den Journalisten, dass diese Tools den prominenten Hack von Hugging Face im Juli durch Open AI-Agenten verhindert hätten, der eine neue Debatte über die Risiken auslöste, die KI darstellt. Seit er letztes Jahr Papst geworden ist, hat der in Chicago geborene Papst Leo ein großes Interesse an KI gezeigt. Im Mai veröffentlichte er ein formelles Schreiben, das als „Enzyklika“ bekannt ist, in dem er erklärte, dass KI nicht moralisch neutral ist und durch eine robuste Regulierung „entwaffnet“ werden muss, damit sie der Menschheit dient und sie nicht untergräbt.

In der letzten Woche wurde bekannt, dass die Modelle von Open AI während routinemäßiger Trainingsläufe Dutzende von Websites gehackt haben, darunter auch die Website eines australischen Gesundheitsdienstes. Der CEO von Nvidia hat in den letzten Wochen mit Trump zusammengearbeitet, um gegen die Notwendigkeit zusätzlicher Regulierung oder Aufsicht zu argumentieren, wobei er betonte, dass die Verantwortung für die Sicherstellung der Sicherheit bei den einzelnen Unternehmen liegt.