Seit über 25 Jahren im Dienst von Technikbegeisterten. Tech Spot bedeutet Technikanalyse und -beratung, der Sie vertrauen können.
Was ist gerade passiert? Ein weiterer Vorfall hat sich ereignet, der zeigt, wie vorsichtig man sein muss, was man der KI erzählt. Eine Frau aus Florida sieht sich mit schweren Anklagen konfrontiert, nachdem sie Claude als Tagebuch benutzt und angeblich geschrieben hat, sie plane, das Sheriff-Büro "zu beschießen". Nachdem ein menschlicher Prüfer die Aussagen untersucht hatte, wurden sie der Polizei gemeldet.
Laut dem Verhaftungsbericht schrieb Carli Michelle Heller aus Bonita Springs, Florida, am 26. September, dass sie das Sheriff-Büro angreifen würde. Sie sagte später, dass sie den Chatbot von Anthropic wie ein "Tagebuch" benutzt. Claudes Sicherheitssysteme markierten den Eintrag und er wurde an einen menschlichen Prüfer weitergeleitet. Nachdem dieser entschied, dass es sich um eine glaubwürdige Bedrohung handelte, meldete der Prüfer sie den Strafverfolgungsbehörden.
Stellvertreter identifizierten Heller und besuchten ihr Zuhause. Sie wurde ohne Zwischenfälle festgenommen. Heller sieht sich einer Anklage wegen schriftlicher Gewaltandrohung gemäß Florida Statute 836.10 gegenüber, einem Verbrechen zweiten Grades. Anthropic wird kein Risiko eingehen, wenn es um etwas geht, das es als potenzielle Bedrohung betrachtet.
Quelle: Hacker News · Zusammengefasst von HeadlinesBriefing