Das Oversight Board hat wiederholt Meta's Umgang mit KI-generiertem Inhalt kritisiert und die Regeln des Unternehmens als 'konsequent und grundlegend unzureichend' bezeichnet. In zwei jüngsten Entscheidungen untersuchte das Board Beiträge mit KI-generierten Videos. Ein Fall betraf ein realistisches synthetisches Video eines schottischen Politikers, der entzündliche Bemerkungen über Flüchtlinge machte.

Der Politiker, dessen Stimme repliziert wurde, beschrieb die Wirkung des Videos als 'ziemlich traumatisch'. Im zweiten Fall wurde ein KI-generiertes Video eines Freiwilligen, der für Menstruationsgesundheitsaufklärung wirbt, manipuliert, um sie zu verspotten, und verbreitete sich viral auf Social-Media-Plattformen. Meta schloss zunächst den Bericht und die Berufung automatisch und entfernte nur belästigende Kommentare nach Intervention des Boards.

Das Board argumentierte, dass beide Videos wegen Verstoßes gegen die Regeln gegen hassverbreitendes Verhalten entfernt und deutlich als KI-generiert gekennzeichnet werden sollten. Nach den Entscheidungen erklärte Meta, dass es die spezifischen Beiträge entfernen werde. Das Board betonte, dass das Fehlen einer konsistenten KI-Kennzeichnung erheblichen Schaden verursacht, indem es erklärte, dass KI-Deepfakes zunehmend genutzt werden, um Frauen im öffentlichen Diskurs zu belästigen und zum Schweigen zu bringen.

Co-Vorsitzende Pamela San Martin stellte fest, dass Frauen, die öffentlich auftreten, unverhältnismäßig ins Visier genommen werden. Die Kritik des Boards ist angesichts seiner Geschichte des Drängens auf neue Regeln, während Meta nur wenige Änderungen an seiner KI-Kennzeichnung vorgenommen hat – meist bestehend aus einem kleinen 'AI Info'-Banner – nicht überraschend. Meta hat 60 Tage Zeit, um auf die neuesten Empfehlungen zu reagieren.