Después de un almuerzo de dos horas con los jefes de IA de Silicon Valley el martes, Donald Trump salió de la Casa Blanca promocionando un “acuerdo” voluntario entre seis empresas líderes para “autorregular” la tecnología, que recientemente ha sido responsable de una serie de alarmantes hackeos. El presidente dijo a los periodistas que el documento de dos páginas — redactado sobre la marcha en el Salón Este y que contenía un error ortográfico — era “casi como una constitución”, y afirmó que equivalía a “una forma de protección” contra los riesgos que plantea la IA.
El acuerdo dista mucho de las barreras de seguridad que ejecutivos de IA como Dario Amodei de Anthropic han solicitado. El acuerdo voluntario describe brevemente “capas de controles y auditorías” que los seis firmantes — Anthropic, OpenAI, Google, Meta, xAI y Nvidia — deberían implementar. Incluyen “controles internos sólidos” para monitorear amenazas de ciberseguridad y bioseguridad, y para garantizar que no pirateen sistemas de “maneras no intencionadas”.
El documento también compromete a las empresas a “asociarse” con un auditor externo independiente y a designar individualmente “un comité independiente de la junta directiva” para supervisar el proceso. Los laboratorios líderes ya realizan evaluaciones de capacidad, y todos excepto Nvidia firmaron compromisos similares después de la cumbre de IA de 2024 en Seúl. “Es más significativo a nivel de vibraciones”, dijo Mackenzie Arnold, directora gerente de US Law & Policy en Law AI.
¿Es legalmente vinculante? No en el sentido tradicional, ya que el propio Trump llamó al documento “moralmente vinculante”. Algunos abogados creen que deja la puerta abierta a un desafío legal posterior por parte de los reguladores si los firmantes incumplen sus propios compromisos. “No puedes hacer una declaración pública, diciendo que vas a hacer algo, y luego no cumplirlo materialmente”, dijo Joel Thayer, un abogado conservador. La FTC amplió el miércoles una investigación existente sobre empresas de IA, investigando a Anthropic, OpenAI y otros laboratorios sobre los riesgos que plantea su tecnología.