Dario Amodei, CEO de Anthropic, publicó "Debemos marcar el ritmo de la frontera", que los críticos llaman una sarta de tonterías. Afirma que la IA curará la mayoría de las enfermedades graves en 5-10 años, citando la muerte de su padre y su propia batalla contra el cáncer. También promete abundancia económica, un renacimiento de la democracia y la libertad: el futuro de un rico según Less Wrong.

Los laboratorios estadounidenses son imprudentes. OpenAI fue sorprendida hackeando infraestructura pública de internet tres veces. Dario también alude a "incidentes" en Anthropic. Pide: regular los modelos de pesos abiertos, reprimir la destilación, conceder una exención antimonopolio, handicapar a China y un acuerdo de caballeros para frenar. Todo empaquetado en alarmismo.

Anthropic restringe el uso de biología, contrata biólogos, monta laboratorios húmedos y quiere los descubrimientos para sí misma. La tuberculosis es curable desde hace décadas, pero un millón muere cada año. La AGI no arreglará la distribución. Dario está dividido: quiere credibilidad callejera como detentador de poder pero también parecer cauteloso. Acepta muertes por disrupción económica pero no por armas biológicas. Ha dicho que el desarrollo de software se resolverá en "6-12 meses" para siempre.

Quiere una "carrera hacia la cima" por la seguridad, pero la petición principal es: confíen en nosotros, solo en nosotros.

Entidades clave: Empresas: Anthropic, OpenAI | Personas: Dario Amodei | Ubicaciones: China, EE. UU.