Durante las dos semanas angustiosas de octubre de 1962, el mundo estuvo a un parpadeo de un Armagedón nuclear. Estados Unidos y la Unión Soviética luchaban desesperadamente por una ventaja durante la carrera armamentista de la Guerra Fría. Después de que Estados Unidos estacionara misiles nucleares de alcance intermedio en Italia y Turquía, los soviéticos, temiendo un primer golpe, buscaron estacionar sus propias armas nucleares en Cuba. La tensa confrontación de dos semanas que siguió, la Crisis de los Misiles en Cuba, casi se escaló a una guerra nuclear. Pero no lo hizo. No solo las partes se alejaron del precipicio, sino que la crisis resultó ser un punto de inflexión en la Guerra Fría misma. Ese rozamiento con la catástrofe cambió el pensamiento de los líderes de ambos lados, dijo William Wohlforth, científico político de Dartmouth que estudia seguridad nacional y relaciones internacionales. "De inmediato obtuvimos el acuerdo de la línea directa, así que podíamos hablar entre nosotros. Empezamos a trabajar hacia el acuerdo de pruebas. Y lentamente, en los años siguientes, obtuvimos un proceso bilateral de control de armamentos grande y complejo."
Estados Unidos y la Unión Soviética permanecieron como enemigos acérrimos. Pero en un punto de interés compartido — no aniquilar a la humanidad — pudieron trabajar juntos. Hoy, expertos en la industria de la inteligencia artificial están sonando alarmas de que las empresas de IA y los países donde están basadas están atrapadas en su propio tipo de carrera armamentista. Las consecuencias, muchos creen, podrían ser tan desastrosas como la guerra nuclear que el presidente John F. Kennedy y el líder soviético, Nikita Khrushchev, evitaron por poco.
Un nuevo documento de trabajo de Drew Fudenberg, profesor de economía en M.I.T. y destacado teórico de juegos, y Andrew Koh, profesor de economía en la Universidad de Columbia y científico de investigación en Google Deep Mind, sugiere una posible forma de ralentizar la carrera armamentista de la IA a un ritmo más seguro. Requeriría que los jugadores en la competencia — tanto empresas como gobiernos — compartan buena información sobre sus avances y estén de acuerdo en dónde comienza realmente el peligro.
Los profesores Koh y Fudenberg parten de un principio sencillo: Todos tienen interés en evitar la catástrofe, sin importar cuán egoístas puedan ser. Al mismo tiempo, argumentan que los principales actores en la industria de la IA están bajo fuertes incentivos para competir por el dominio. Las empresas quieren la cuota de mercado y miles de millones de dólares de inversión que traerán los modelos más avanzados. Los gobiernos quieren los beneficios económicos de la IA y también el acceso a modelos avanzados para sus propios propósitos. Esas presiones competitivas impulsan a los jugadores a correr peligrosamente hacia el borde del desastre, donde muchos temen que agentes de IA descontrolados puedan, por ejemplo, derribar gobiernos o sistemas financieros, sabotear infraestructuras vitales o lanzar un ataque biológico.
Fuente: New York Times Top Stories · Resumido por HeadlinesBriefing