David Robinson, quien lideró los esfuerzos de transparencia de seguridad en OpenAI, dimitió porque cree que la tecnología de la empresa no es lo suficientemente segura. Un becario Rhodes y exasesor de la Casa Blanca de Biden, Robinson se unió a OpenAI pensando que los riesgos de seguridad de la IA eran 'absurdos', pero cambió su vista después de tres años. Argumenta que OpenAI carece de la cultura de seguridad necesaria para prevenir riesgos catastróficos, comparando los posibles daños con un derretimiento nuclear, pero mucho peor.
Dice que la industria opera como una startup a pesar de construir sistemas peligrosos, con controles internos e redundancias insuficientes. Robinson señala que los informes públicos de seguridad de OpenAI, Hugging Face y Anthropic muestran problemas, pero los observadores externos pueden sobreestimar su rigor de seguridad. Distingue entre la excelencia organizativa, la viabilidad técnica de la seguridad y los metáforas adecuadas para el riesgo—como la energía nuclear.
Robinson insiste en que el alineamiento de IA no es meramente un problema de ingeniería. Su renuncia destaca la creciente disidencia interna sobre las prácticas de seguridad de IA en la industria.
Fuente: New York Times Top Stories · Resumido por HeadlinesBriefing