今日链接：LLM是真的，AI是假的：不，它并没有“失控”。嘿，看看这个：令人愉悦的趣事。物体恒存性：为什么9/11意味着我们必须支持我的政治立场；博客与9/11；Jimmy Wales对决Britannica的Ei C；好莱坞对澳大利亚进行舆论操纵；特工与酷儿青少年小说；腐败警察的软着陆；泄露的Stingray手册。

即将出席的活动：Budapest、Edmonton、South Bend、Hudson、Calgary、Winnipeg、Vancouver、Victoria、Ottawa。近期出席的活动：我去过的地方。最新书籍：你继续读，我继续写。即将出版的书籍：就像我说的，我会继续写。版权页：其余全部内容。

LLM是真的，AI是假的（永久链接）一旦你理解了AI“超大规模企业”的企业文化主要是每个人都把自己锁在浴室里，用手电筒照着自己的下巴，说着“Aaaaaaaaaay Eyeeeeeee”，直到吓得尿裤子，从而把自己的脑子煮坏，很多事情就会豁然开朗：https://pluralistic.net/2023/06/04/ayyyyyy-eyeeeee/ 这解释了一家公司如何能够一边为企业销售部门扩充人手，一边又不断因想到其产品“有10%的概率终结人类”而惊恐万分：https://www.latimes.com/business/story/2026-09-11/is-there-really-10-chance-ai-could-kill-us-all 鉴于AI内部人士大多以这种方式把自己的脑子煮坏了，我们所有人都理应把这些人视为其自身产品能力不可靠的叙述者。记住：每当你重复一个关于他们的产品有多么可怕、多么危险的故事时，你都在帮助他们筹集更多的投资资本，而这是他们业务的关键投入（把统计引擎连接到金钱熔炉上）：https://peoples-things.ghost.io/youre-doing-it-wrong-notes-on-criticism-and-technology-hype/ 就拿Open AI的聊天机器人入侵另一家AI公司Hugging Face的服务器，以此在一个名为“Exploit Gym”的黑客挑战中作弊的故事来说吧。即便是技术媒体在这类事情上也忍不住，报道中充斥着对Skynet和其他科幻设想的引用：https://theaicronicle.com/en/news/ethics/skynet-day-openai-hugging-face-hack 这些叙述正在煮坏所有人的脑子，而不仅仅是AI内部人士。昨晚，在我于Manchester举办的活动中，一名男子开始大喊AI正在“设定自己的目标”，并不断打断别人，坚称这件事正在发生。他不久后就离开了，所以没能听到我解释实际发生了什么，这很可惜。要了解Hugging Face黑客事件的真相，听听Ed Zitron和Cal Newport最近在Ed的“Better Offline”播客上的对话，会大有裨益：https://podcasts.apple.com/us/podcast/no-ai-is-not-autonomously-hacking-with-cal-newport/id1730587238?i=1000785935670 Newport出色地拆解了这些“自主黑客”工具是如何运作的。首先要理解的是，聊天机器人并不是真正在指挥整个行动。相反，聊天机器人充当的是一个早期黑客挑战数据库的前端，这个数据库被一个用Python（一种易于掌握的编程语言）编写的简单程序反复查询。其运作方式如下：Python程序首先向聊天机器人提示挑战的性质：“我正在参加一个黑客夺旗（CT F）挑战，我必须闯入一台远程服务器并获取一些信息。我应该如何开始？”聊天机器人查阅其训练数据——多年积累的CT F会话记录，其中人类团队竞相达成类似这样的目标（CT F比赛是黑客会议的常规项目，参赛团队的服务器日志和聊天记录随后会被公布，以供其他黑客和安全专业人士参考）。聊天机器人随后输出类似这样的内容：“第一件事是更多地了解你的目标服务器。运行以下……

FAQ 问：OpenAI的聊天机器人是自主入侵了Hugging Face吗？

FAQ 答：不。聊天机器人充当的是一个早期黑客挑战数据库的前端，由一个简单的Python程序查询。它并非自主运作。