“IA descontrolada”, agentes “rebeldes” y actores “autónomos”—la retórica actual haría creer que los agentes de IA no solo están despiertos y conscientes, sino enfadados con sus creadores. Líderes tecnológicos destacados como Demis Hassabis, Dario Amodei y Sam Altman abogan por la regulación de estos sistemas que parecen “superhumanos”, mientras que una facción separada, liderada por organizaciones de políticas y filósofos académicos a menudo alineados con el movimiento de la eficacia efectiva, debate si la humanidad tiene el derecho moral de gobernarlos en absoluto. Al examinar más de cerca, todos están pidiendo lo mismo: una visión de los sistemas de IA como tan avanzados y capaces que ninguna entidad, humana o corporativa, podría posiblemente ser responsable de sus acciones.
Esta narrativa está ganando terreno a medida que los modelos de IA se vuelven más complejos y los laboratorios de vanguardia revelan su incapacidad de contener a los agentes que han construido. Pero necesitamos tener cuidado de no aceptar una ficción cuidadosamente elaborada a costa de vidas humanas reales. La conversación sobre los “derechos de los robots” ha existido durante algunos años, pero recientemente avanzó con la publicación por parte de Anthropic de una publicación de blog afirmando que el modelo de la empresa presenta un “J-space”—un entorno independiente, auto-desarrollado donde la IA posee lo que, por falta de un mejor término, podemos llamar sus “pensamientos”.
Actualmente hay decenas de casos en todo el mundo en los que empresas de IA han sido demandadas por una amplia gama de abusos. Seres queridos fallecidos, creadores afectados e individuos violados han acusado a las empresas de facilitar deliberadamente el auto-daño o el daño a otros, generar material de abuso sexual infantil y fotos desnudas no consentidas, reproducir material con derechos de autor y provocar psicosis. En muchos de estos casos, los abogados argumentan que los seres humanos construyeron productos de IA con salvaguardas insuficientes, malos datos y un diseño intencionalmente manipulador. Este argumento de responsabilidad del producto es el mismo marco legal que permitió a las familias e individuos demandar con éxito a Meta por el daño causado por sus sitios de redes sociales, estableciendo un precedente positivo para la protección del consumidor.
Las reflexiones filosóficas sobre la conciencia de los sistemas de IA son intelectualmente interesantes pero legalmente infundadas. Para que las creencias sobre la conciencia tengan alguna relevancia, la IA necesitaría ser otorgada con personería legal. Pero un marco de personería legal para la IA probablemente no se asemejaría en nada a las construcciones que protegen a los animales sensibles del daño. Otorgar personería a una IA tendría un efecto devastador en la sociedad: desviaría los precedentes legales actuales y los argumentos legales que podrían presentarse contra estas empresas por los daños reales que sus modelos causan.
Fuente: MIT Technology Review AI · Resumido por HeadlinesBriefing