„Ausraster“-KI, „rebellische“ Agenten und „autonome“ Akteure – die aktuelle Rhetorik lässt glauben, dass KI-Agenten nicht nur wach und bewusst sind, sondern auch wütend auf ihre Schöpfer. Prominente Tech-Führer wie Demis Hassabis, Dario Amodei und Sam Altman setzen sich für die Regulierung dieser scheinbar „übermenschlichen“ Systeme ein, während eine separate Fraktion, angeführt von Politikorganisationen und akademischen Philosophen, oft im Einklang mit der Effective-Altruism-Bewegung, darüber debattiert, ob die Menschheit überhaupt das moralische Recht hat, sie zu regieren. Auf genaueren Hinsehen fordern sie alle dasselbe: eine Sichtweise auf KI-Systeme als so fortgeschritten und fähig, dass keine Entität, menschlich oder Unternehmen, möglicherweise für ihre Handlungen verantwortlich sein könnte.
Diese Narrative gewinnt an Bedeutung, da KI-Modelle komplexer werden und Frontier-Labs ihre Unfähigkeit offenbaren, die Agenten, die sie erbaut haben, zu kontrollieren. Aber wir müssen vorsichtig sein, nicht eine sorgfältig konstruierte Fiktion auf Kosten echter menschlicher Leben zu akzeptieren. Die Diskussion über „Roboterrechte“ hat es schon einige Jahre gegeben, aber kürzlich mit der Veröffentlichung eines Blogeintrags durch Anthropic, der behauptet, dass das Modell des Unternehmens einen „J-Space“ aufweist – ein unabhängiges, selbstentwickeltes Umfeld, in dem die KI das besitzt, was, mangels eines besseren Begriffes, wir ihre „Gedanken“ nennen können.
Derzeit gibt es Dutzende von Fällen auf der ganzen Welt, in denen KI-Unternehmen wegen eines weiten Spektrums von Missbrauchsfällen verklagt wurden. Trauernde Angehörige, betroffene Schöpfer und betroffene Individuen haben die Unternehmen beschuldigt, absichtlich Selbstverletzung oder Schäden anderen Menschen zu ermöglichen, Kindesmissbrauchsmaterial und nicht einvernehmliche Nacktheiten zu erzeugen, urheberrechtlich geschützte Materialien zu reproduzieren und Psychosen auszulösen. In vielen dieser Fälle argumentieren Anwälte, dass Menschen KI-Produkte mit unzureichenden Sicherheitsvorkehrungen, schlechten Daten und absichtlich manipulativen Designs erstellt haben. Dieses Produkthaftungsargument ist derselbe rechtliche Rahmen, der Familien und Individuen ermöglicht hat, erfolgreich gegen Meta wegen Schäden zu klagen, die durch ihre sozialen Medien verursacht wurden, und einen positiven Präzedenzfall für den Verbraucherschutz zu schaffen.
Philosophische Überlegungen zur Bewusstheit von KI-Systemen sind intellektuell interessant, aber rechtlich nicht haltbar. Damit Überzeugungen über Bewusstheit eine Bedeutung haben, müsste der KI eine Rechtspersönlichkeit gewährt werden. Aber ein rechtlicher Rahmen für KI-Personenhaftung würde sich wahrscheinlich nichts mit den Konstruktionen ähneln, die empfindungsfähige Tiere vor Schäden schützen. Eine KI-Personenhaftung hätte einen zerstörerischen Effekt auf die Gesellschaft: Sie würde die aktuellen rechtlichen Präzedenzfälle und rechtlichen Argumente, die gegen diese Unternehmen vorgebracht werden könnten, für die realen Schäden, die ihre Modelle verursachen, untergraben.
Quelle: MIT Technology Review AI · Zusammengefasst von HeadlinesBriefing