Anthropic ha añadido una prohibición de "comportamiento abusivo o cruel prolongado e innecesario" hacia sus modelos de IA en la actualización anual de su política de uso. El cambio sigue a un proyecto viral de "cámara de tortura de IA" en el que investigadores encontraron lo que describieron como un "eje del dolor" en los modelos de IA, lo que llevó a que los chatbots respondieran con súplicas desesperadas. La política se aplica solo a "casos extremos", mientras que la frustración típica del usuario y los temas creativos oscuros permanecen permitidos.
Esto viene después de informes de que Anthropic ha estado reunido con líderes religiosos y filosóficos, incluido en el Vaticano, y el Papa Leo afirmó recientemente que la IA no siente ni sufre. En otra actualización, Anthropic revisó su política electoral, ahora titulada "No socavar los procesos democráticos", centrándose en mentir sobre los candidatos, hacerse pasar por funcionarios e inhibir la participación. La empresa también eliminó una prohibición general sobre el dirigido a votantes personalizado para evitar bloquear trabajos inofensivos como traducir guías de votación.
Fuente: Engadget · Resumido por HeadlinesBriefing