HeadlinesBriefing favicon HeadlinesBriefing.com

KI-Textdetektion: Genauigkeit und Ethik

Financial Times Companies •
×

Als Max Spero Online-Inhalte liest, vertraut er zunächst seiner Intuition, bevor er sie durch Pangram durchläuft, den KI-Detektor, den er 2023 mitgründete. Der ehemalige Google-Software-Ingenieur sucht nach Informationsdichte und argumentiert, dass KI-generierter Text die Absicht hinter jedem menschlichen Wort vermissen lässt. Pangram wurde zum Zentrum mehrerer hochkarätiger Kontroversen, darunter die Entfernung des Romans Shy Girl und die Anschuldigung gegen den trinidadischen Schriftsteller Jamir Nazir beim Commonwealth Short Story Prize.

Der CEO von Substack, Chris Best, unterstützt die Verwendung des Tools zur Überprüfung von Newsletter, behauptend, dass KI-Inhalte, die als menschlich dargestellt werden, „die Gemeinschaft verschmutzen“. Allerdings stehen die Detektionssoftware vor erheblicher Kritik. Universitäten wie Oxford, Cambridge und Harvard unterstützen den Einsatz von KI, aber nicht die kommerziellen Detektoren, da KI-Tics in der menschlichen Schreibweise erscheinen und falsche Anschuldigungen eine schwere Stigmatisierung nach sich ziehen.

Autoren, die beschuldigt werden, KI zu verwenden, wehren sich und argumentieren, dass Paranoia zu Hexenjagden geführt hat. Nazir betont, dass er keine KI verwendet hat und die Technologie mit Eris, der Göttin der Zwietracht, verglichen hat. Die Debatte spiegelt historische Bedenken hinsichtlich von Plagiat wider, aber die Geschwindigkeit und das Volumen der KI-Generierung machen es zunehmend schwierig, in der modernen Ära menschlichen Text von Maschinen Text zu unterscheiden.