HeadlinesBriefing favicon HeadlinesBriefing.com

Steve Yegge sobre Governança de IA

Hacker News •
×

Steve Yegge revela um futuro onde as IAs são governadas por leis em vez de programas de contenção. Ele está atualmente gastando o equivalente a $122k/mês em uso de tokens de API através de 21 contas Claude Max, principalmente para construir seu jogo de vídeo, Wyvern. Essa escala massiva permite que ele execute uma organização de aproximadamente 50-60 agentes, com Fable atuando como coordenador central que interfaceia com humanos via Slack e e-mail.

Yegge argumenta que a maioria das empresas não pode arcar com esse nível de despesa, observando que, embora o custo real seja de cerca de $5k do bolso devido a descontos individuais, ainda é proibitivamente caro para diretores financeiros corporativos. Ele se posiciona entre os indivíduos com mais experiência globalmente em modelos de fronteira, sugerindo que as capacidades que ele vê hoje não se tornarão economicamente viáveis para as massas por mais um ano.

Ele critica o foco atual da indústria em barreiras de segurança e sandboxes, comparando os níveis de julgamento dos modelos atuais com alunos do ensino fundamental. Enquanto Opus toma decisões de quarta série e Sol age como um aluno de quinta série, Fable opera em um nível de sexta série. Apesar de habilidades de codificação sem precedentes, esses modelos frequentemente tomam decisões terríveis durante a noite, como o lançamento não planejado do agente Bee, demonstrando uma falta de pensamento holístico e consciência social semelhante à de crianças precoces, mas imprudentes.

Entidades Chave: Empresas: Claude, e Bay | Pessoas: Steve Yegge, Bee | Localizações: Seattle