HeadlinesBriefing favicon HeadlinesBriefing.com

Steve Yegge sobre la gobernanza de la IA

Hacker News •
×

Steve Yegge revela un futuro en el que las IAs están gobernadas por leyes en lugar de programas de contención. Actualmente está gastando el equivalente a $122k/mes en uso de tokens de API a través de 21 cuentas de Claude Max, principalmente para construir su videojuego, Wyvern. Esta escala masiva le permite ejecutar una organización de aproximadamente 50-60 agentes, con Fable actuando como el coordinador central que se interconecta con los humanos a través de Slack y correo electrónico.

Yegge argumenta que la mayoría de las empresas no pueden permitirse este nivel de gasto, señalando que si bien el costo real es de alrededor de $5k de bolsillo debido a descuentos individuales, sigue siendo prohibitivamente caro para los CFO corporativos. Se posiciona entre los individuos más experimentados a nivel mundial en modelos de frontera, sugiriendo que las capacidades que ve hoy no se volverán rentables para las masas durante otro año.

Critica el enfoque actual de la industria en las barreras de seguridad y entornos de prueba (sandboxes), comparando los niveles de juicio de los modelos actuales con estudiantes de primaria. Mientras que Opus toma decisiones de cuarto grado y Sol actúa como un estudiante de quinto grado, Fable opera a un nivel de sexto grado. A pesar de sus habilidades de codificación sin precedentes, estos modelos a menudo toman decisiones terribles durante la noche, como el lanzamiento no planificado del agente Bee, lo que demuestra una falta de pensamiento holístico y conciencia social similar a la de niños precoces pero imprudentes.

Entidades Clave: Empresas: Claude, e Bay | Personas: Steve Yegge, Bee | Ubicaciones: Seattle