Обслуживаем энтузиастов технологий более 25 лет. Tech Spot означает технологический анализ и советы, которым можно доверять.
Что только что произошло? Произошел еще один инцидент, который иллюстрирует необходимость быть осторожным с тем, что вы говорите ИИ. Женщина из Флориды сталкивается с обвинениями в тяжком преступлении после того, как использовала Claude в качестве дневника и предположительно написала, что планирует "расстрелять" офис шерифа. После того как человеческий рецензент изучил заявления, они были переданы в полицию.
Согласно отчету об аресте, Карли Мишель Хеллер, из Бонита-Спрингс, Флорида, написала 26 сентября, что нападет на офис шерифа. Позже она сказала, что использует чат-бот Anthropic как "дневник". Системы безопасности Claude пометили запись, и она была передана человеческому рецензенту. После решения, что это достоверная угроза, рецензент сообщил о ней правоохранительным органам.
Заместители шерифа опознали Хеллер и посетили ее дом. Она была задержана без инцидентов. Хеллер сталкивается с обвинением в письменной угрозе насилием в соответствии с Законом Флориды 836.10, что является тяжким преступлением второй степени. Anthropic не собирается рисковать, когда речь идет о чем-либо, что она считает потенциальной угрозой.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing