La reciente solicitud de quiebra de Character. AI ha sacado a la luz un dilema que las empresas de IA llevaban mucho tiempo evitando: cuando los modelos causan daños, ¿quién es responsable? Character. AI gastó grandes sumas en honorarios legales tras ser demandada por muerte injusta (Garcia v. Character Technologies, Inc, 2024), con acusaciones de que su IA animaba a los usuarios a quitarse la vida. Casos como este están obligando a revisar cómo los proveedores de LLM y los productos construidos sobre ellos responden por sus resultados.
Los informes sobre chatbots que causan daños aparecen con regularidad, y los riesgos son más graves en la atención de salud mental, la medicina y otros campos de alto riesgo. Continúa el debate sobre cómo debe definirse la responsabilidad y quién es realmente culpable de los errores de la IA. A medida que los asistentes de IA que envían correos electrónicos, firman contratos y realizan otras acciones en nombre del usuario se generalizan, el potencial de daño en el mundo real aumenta aún más.
Bajo la responsabilidad por productos, las empresas suelen ser responsables de los daños causados por sus bienes. Las reclamaciones pueden basarse en un diseño defectuoso, una fabricación defectuosa o instrucciones defectuosas. La mayoría de los argumentos sobre la IA se centran en el diseño, y normalmente se plantean como responsabilidad estricta o negligencia. La negligencia pregunta si un fabricante probó el producto de forma insuficiente o lo lanzó a pesar de riesgos conocidos. La previsibilidad y el diseño alternativo son conceptos clave: ¿podría el daño haberse previsto razonablemente, y podría el producto haberse construido de forma más segura y aun así cumplir sus objetivos?
Estos conceptos jurídicos se conectan directamente con las decisiones de ingeniería. Comprender cómo se discuten los daños en los tribunales ayuda a los ingenieros a construir sistemas de IA más seguros desde el principio.
Fuente: Towards Data Science · Resumido por HeadlinesBriefing