Sirviendo a entusiastas de la tecnología por más de 25 años. Tech Spot significa análisis y consejos tecnológicos en los que puedes confiar.
¿Qué acaba de pasar? Otro incidente ha tenido lugar que ilustra la necesidad de tener cuidado con lo que le dices a la IA. Una mujer de Florida enfrenta cargos de delito grave después de usar Claude como diario y supuestamente escribir que planeaba "disparar" contra la oficina del Sheriff. Después de que un revisor humano examinó las declaraciones, fueron reportadas a la policía.
Según el informe de arresto, Carli Michelle Heller, de Bonita Springs, Florida, escribió el 26 de septiembre que atacaría la oficina del Sheriff. Más tarde dijo que usa el chatbot de Anthropic como un "diario". Los sistemas de seguridad de Claude marcaron la entrada y fue escalada a un revisor humano. Después de decidir que era una amenaza creíble, el revisor la reportó a las autoridades.
Los diputados identificaron a Heller y visitaron su casa. Fue detenida sin incidentes. Heller enfrenta un cargo de hacer una amenaza escrita de violencia bajo el Estatuto de Florida 836.10, un delito grave de segundo grado. Anthropic no va a correr riesgos cuando se trata de cualquier cosa que considere una amenaza potencial.
Fuente: Hacker News · Resumido por HeadlinesBriefing