HeadlinesBriefing favicon HeadlinesBriefing.com

Steve Yegge über KI-Governance

Hacker News •
×

Steve Yegge enthüllt eine Zukunft, in der KIs durch Gesetze statt durch Eindämmungsprogramme regiert werden. Er gibt derzeit das Äquivalent von 122k$/Monat für die Nutzung von API-Token über 21 Claude Max-Konten aus, hauptsächlich zum Bau seines Videospiels Wyvern. Dieser massive Umfang ermöglicht es ihm, eine Organisation von etwa 50-60 Agenten zu betreiben, wobei Fable als zentraler Koordinator fungiert, der über Slack und E-Mail mit Menschen interagiert.

Yegge argumentiert, dass die meisten Unternehmen sich dieses Ausgabenniveaus nicht leisten können, und weist darauf hin, dass die tatsächliche Kostenbelastung aufgrund individueller Rabatte bei etwa 5k$ liegt, aber für Unternehmens-CFOs immer noch prohibitiv teuer bleibt. Er positioniert sich unter den weltweit erfahrensten Personen im Umgang mit Frontier-Modellen und deutet an, dass die Fähigkeiten, die er heute sieht, für die Massen noch ein Jahr lang nicht kosteneffektiv sein werden.

Er kritisiert den aktuellen Fokus der Branche auf Guardrails und Sandboxes und vergleicht das Urteilsvermögen aktueller Modelle mit Grundschülern. Während Opus Entscheidungen auf vierthäufigem Niveau trifft und Sol sich wie ein Fünftklässler verhält, operiert Fable auf einem Sechstklässler-Niveau. Trotz unübertroffener Programmierfähigkeiten treffen diese Modelle oft schreckliche Nachtentscheidungen, wie die ungeplante Freigabe des Agenten Bee, was einen Mangel an ganzheitlichem Denken und sozialem Bewusstsein zeigt, ähnlich wie bei frühreifen, aber rücksichtslosen Kindern.

Wichtige Entitäten: Unternehmen: Claude, e Bay | Personen: Steve Yegge, Bee | Orte: Seattle