Querido Dario, publicaste Hoy Debemos Marcar el Paso en la Frontera hoy, lo que comprometió a Anthropic a tener evaluadores de terceros incorporados y pidió a los gobiernos que requieran que cada otra empresa de frontera haga lo mismo. Sam Altman estuvo de acuerdo en pocas horas. Creo que eres sincero, así que te pido que pidas una ley diferente, una que realmente ralentice las cosas, aunque requiera un verdadero sacrificio de tu parte.

Cualquier modelo de IA que una empresa ofrezca al público debe liberarse como pesos abiertos. Esto no cubriría cada modelo que entrenas, solo los que pones a disposición del público. Los modelos internos y de investigación no se verían afectados, y los gobiernos aún podrían acceder a modelos no publicados.

Pero Anthropic tendría que publicar los pesos de Fable el día de su lanzamiento, Open AI tendría que hacer lo mismo con Astra, y así todos los demás. Como sabes, el financiamiento para el desarrollo de modelos de frontera depende de valuaciones que asumen que los pesos permanecen propietarios. Al cambiar esa suposición, podemos reducir el dinero disponible para futuros entrenamientos y ralentizar el progreso en cada laboratorio a la vez, sin que un regulador decida nada.

Cada regulación que has pedido termina en captura. No hay forma de ralentizar los modelos de frontera mediante regulación que no lleve a captura regulatoria. Evaluadores incorporados, umbrales de cómputo, coordinación de la industria con exenciones antimonopolio.

Todo esto se escribe con la ayuda de los actuales laboratorios de frontera, porque nadie más entiende los detalles técnicos lo suficiente como para escribirlo. Una vez que se convierte en ley, solo se vuelve más complejo, porque cada incidente agrega una regla y ninguna regla jamás se elimina. Las grandes empresas pueden permitirse equipos de cumplimiento y abogados para mantenerse al día, y cada nuevo requisito hace que sea más difícil para cualquiera más alcanzarlas.

En lugar de ralentizarte, protege tu posición y ganancias. ¿Por qué te lo pido? Pareces una persona buena y principiada, y tienes un historial de renunciar a cosas por lo que crees. Dejaste Open AI para crear una empresa con seguridad incorporada desde el principio, cuando la movimiento de carrera segura habría sido quedarte. Has pasado años pidiendo regulación para tu propia industria y siendo llamado un profeta del desastre y un capturador regulatorio por ello.

Impulsaste controles de exportación que reducen tu propio mercado. Anthropic pagó $1.5 mil millones para llegar a un acuerdo con los autores en lugar de luchar hasta el final. Y hoy te comprometiste a ralentizar antes que nadie más.

También tuviste la previsión de convertir a Anthropic en una Sociedad de Beneficio Público (PBC), para que pudieras poner legalmente la misión primero: el desarrollo y mantenimiento responsables de IA avanzada para el beneficio a largo plazo de la humanidad. Esto es exactamente el tipo de decisión de misión sobre ganancias a corto plazo para la que existe la estructura PBC. Todavía eres la única persona que podría proponer una ley como esta y ser tomada en serio, y la única que probablemente realmente la lleve a cabo.

Si realmente quieres ralentizar el desarrollo de la IA de frontera, pide una ley que haga que cada modelo de IA disponible públicamente libere sus pesos abiertamente. No hay nada en ello para manipular o evadir, incluso para ti.