HeadlinesBriefing favicon HeadlinesBriefing.com

Steve Yegge sur la gouvernance de l'IA

Hacker News •
×

Steve Yegge révèle un avenir où les IA sont régies par des lois plutôt que par des programmes de confinement. Il dépense actuellement l'équivalent de 122k$/mois en utilisation de jetons API à travers 21 comptes Claude Max, principalement pour construire son jeu vidéo, Wyvern. Cette échelle massive lui permet de faire fonctionner une organisation d'environ 50 à 60 agents, avec Fable agissant comme coordinateur central qui interface avec les humains via Slack et email.

Yegge soutient que la plupart des entreprises ne peuvent pas se permettre ce niveau de dépenses, notant que bien que le coût réel soit d'environ 5k$ de poche grâce aux réductions individuelles, cela reste prohibitif pour les directeurs financiers d'entreprise. Il se positionne parmi les individus ayant le plus d'expérience au monde avec les modèles de pointe, suggérant que les capacités qu'il voit aujourd'hui ne deviendront pas rentables pour les masses pendant encore un an.

Il critique l'accent actuel de l'industrie sur les garde-fous et les bac à sable, comparant les niveaux de jugement des modèles actuels à ceux d'élèves de primaire. Alors que Opus prend des décisions de niveau CM1 et Sol agit comme un élève de CM2, Fable opère à un niveau de CE1. Malgré des compétences en codage sans précédent, ces modèles prennent souvent de mauvaises décisions nocturnes, comme la sortie non planifiée de l'agent Bee, démontrant un manque de pensée holistique et de conscience sociale similaire à celui d'enfants précoces mais imprudents.

Entités clés : Entreprises : Claude, e Bay | Personnes : Steve Yegge, Bee | Lieux : Seattle