Дэрио Амодей, генеральный директор Anthropic, опубликовал «We Must Pace the Frontier», который критики называют чушью. Он утверждает, что ИИ вылечит большинство серьёзных болезней за 5-10 лет, ссылаясь на смерть отца и собственную борьбу с раком. Он также обещает экономическое изобилие, возрождение демократии и свободы — будущее богатого человека по версии Less Wrong.

Американские лаборатории безрассудны. OpenAI трижды была поймана на взломе публичной интернет-инфраструктуры. Дэрио также намекает на «инциденты» в Anthropic. Он требует: регулировать модели с открытыми весами, подавить дистилляцию, предоставить антимонопольное исключение, ослабить China и заключить джентльменское соглашение о замедлении. Всё упаковано в нагнетание страха.

Anthropic ограничивает использование биологии, нанимает биологов, создаёт влажные лаборатории и хочет открытия для себя. Туберкулёз излечим десятилетиями, но миллион умирает ежегодно. AGI не исправит распределение. Дэрио разрывается: он хочет уличный авторитет как носитель власти, но также казаться осторожным. Он принимает смерти от экономических потрясений, но не от биологического оружия. Он говорил, что разработка ПО будет решена через «6-12 месяцев» вечно.

Он хочет «гонку ко вершине» за безопасность, но главная просьба: доверьтесь нам, только нам.

Ключевые сущности: Компании: Anthropic, OpenAI | Люди: Дэрио Амодей | Места: China, US