HeadlinesBriefing favicon HeadlinesBriefing.com

史蒂夫·耶格论AI治理

Hacker News •
×

史蒂夫·耶格揭示了一个未来,在这个未来中,人工智能将受法律管辖,而不是被遏制计划所限制。他目前每月在21个Claude Max账户上的API令牌使用量相当于12.2万美元,主要是为了构建他的电子游戏Wyvern。这种巨大的规模使他能够运行一个大约由50到60个智能体组成的组织,其中Fable作为中央协调者,通过Slack和电子邮件与人类进行接口交互。

耶格认为,大多数公司无法承担这种水平的支出,他指出,由于个人折扣,实际自付成本约为5000美元,但对于企业首席财务官来说,这仍然是负担不起的。他将自已定位为在全球前沿模型经验方面处于顶尖地位的个人之一,并指出他所看到的这些能力在未来一年内不会对大众变得具有成本效益。

他批评了当前行业对护栏和沙盒的关注,将当前模型的判断水平比作小学生。虽然Opus做出的是四年级学生的决定,而Sol表现得像五年级学生,但Fable则在六年级水平上运作。尽管拥有无与伦比的编码技能,这些模型经常做出糟糕的夜间决策,例如智能体Bee的意外发布,这表明它们缺乏整体思维和社会意识,就像早熟但鲁莽的孩子一样。

关键实体:公司:Claude, e Bay | 人物:Steve Yegge, Bee | 地点:Seattle