La alarma lanzada por los directores ejecutivos de IA sobre los mismos productos que se han apresurado a llevar al mercado equivale a una notable admisión de fracaso y a un espectacular fracaso de gobernanza. ¿Por qué, entonces, los políticos globales piden a los mismos CEO que hablen de soluciones mientras debaten si su tecnología ha condenado a la humanidad? Una vez más, permitimos que los líderes corporativos dicten los términos de la discusión mientras les preguntamos qué se debe hacer al respecto. Incluso la presidenta de la Comisión Europea, Ursula von der Leyen, en su reciente discurso sobre el Estado de la Unión, invitó a los CEO de IA a discutir "cómo marcar el ritmo de la frontera" y "apoyar los esfuerzos en curso de la industria". Esta apertura envía la señal equivocada en el momento equivocado.

Imaginen pedir a las petroleras que diseñen políticas climáticas o a las automotrices que hagan las reglas de tráfico. Es especialmente peculiar porque Europa tiene una ley integral de IA, la Ley de IA de la UE, con la mitigación de riesgos en su centro. En lugar de preguntar a los líderes empresariales qué necesita la sociedad de cara al futuro, los líderes políticos deberían hacer un mejor trabajo poniendo a prueba sus afirmaciones y asegurando que sus negocios y productos contribuyan al éxito de toda la sociedad. ¿Dónde estaban los legisladores cuando se erigieron centros de datos sin transparencia de propiedad, demandas de recursos o impacto en las comunidades locales? ¿Dónde estaba la supervisión cuando las preocupaciones de seguridad se dejaron de lado para impulsar la ventaja competitiva? La ley debe ser el ancla de cualquier acción de los líderes europeos y debe actualizarse cuando los avances tecnológicos lo merezcan.

La Ley de IA actualmente incluye obligaciones de transparencia, evaluación y mitigación de riesgo sistémico y prevé la supervisión de modelos de propósito general. Estos son los mismos bloques de construcción que muchos expertos esperan que la regulación garantice en otros lugares también. Europa no debería organizar cumbres con CEO de IA como sustituto de hacer cumplir las reglas que ya tiene.

Hacer cumplir las leyes existentes con más fuerza permite una acción más inmediata. La sociedad requiere una comprensión mucho mejor de lo que sucede dentro de los laboratorios de IA, desde la experimentación hasta el despliegue. Eso nos permitirá hacer evaluaciones de riesgo, informar políticas y marcar el ritmo o incluso detener nuevos lanzamientos de modelos en consecuencia.

Las moratorias no vinculantes negociadas entre las empresas que deberían observarlas no nos llevarán a un mejor lugar. De hecho, los llamados anteriores de líderes de IA para una pausa en el desarrollo de modelos de frontera llevaron a cero cambios en su comportamiento. Necesitamos un reinicio integral de la gobernanza liderado por líderes e instituciones democráticas para lograr un escrutinio independiente y una rendición de cuentas real. Dario Amodei de Anthropic ha pedido una coalición de democracias para gobernar la seguridad de la IA juntas.

Como anfitrión de los principales laboratorios de frontera, EE. UU. tiene la clave para tal coalición. Cuando las empresas estadounidenses rinden cuentas en casa, el impacto se extiende por el mundo.

Washington disfrutaría de su propia versión del efecto Bruselas: las reglas estadounidenses se convertirían en el estándar global de gobernanza de IA por defecto, de la forma en que las reglas de la UE sobre protección de datos y seguridad de productos han moldeado normas lejos de sus fronteras. Ese efecto solo se materializa, sin embargo, si las reglas tienen sustancia y se alinean en valores con los de otras democracias. Si quieren ver una gobernanza global de IA, las empresas tecnológicas deberían hacer lobby en Washington por regulaciones vinculantes, un giro de 180 grados respecto al enfoque actual. ¿Cómo llegamos a un punto en que las empresas de IA han convencido a inversores y mercados de que construirán el futuro solo para advertirnos que lo terminarán al mismo tiempo? Centrémonos en fortalecer la gobernanza democrática de la IA.

No podemos esperar otro informe de incidente que advierta de un desastre. Los pirómanos no son buenos bomberos.