Дорогой Дарио, вы сегодня опубликовали 'Мы должны следовать темпу границы', в котором Anthropic обязалась внедрить сторонних оценщиков и потребовала от правительств обязать каждую другую передовую компанию сделать то же самое. Сэм Альтман согласился всего за несколько часов. Я верю, что вы искренни, поэтому прошу вас призвать к другому закону, закону, который действительно замедлит вещи, даже если это потребует настоящей жертвы с вашей стороны. Любая модель ИИ, которую компания предлагает публике, должна быть выпущена как открытые веса. Это не охватит каждую модель, которую вы обучаете, только те, которые вы делаете доступными для публики. Внутренние и исследовательские модели не будут затронуты, и правительства всё ещё смогут получить доступ к неопубликованным моделям. Но Anthropic должна будет выпустить веса Fable в день её выпуска, Open AI должна будет сделать то же самое с Astra, и так далее для всех остальных. Как вы знаете, финансирование разработки передовых моделей зависит от оценок, которые предполагают, что веса останутся собственными. Изменив это предположение, мы можем уменьшить деньги, доступные для будущих тренировок, и замедлить прогресс в каждой лаборатории одновременно, без того чтобы регулятор решил что-либо. Каждое регулирование, которого вы просили, заканчивается захватом. Нет способа замедлить передовые модели через регулирование, которое не привело бы к регуляторному захвату. Встроенные оценщики, пороговые значения вычислений, координация отрасли с отступлениями от антимонопольного законодательства. Всё это пишется при помощи текущих передовых лабораторий, потому что никто другой не понимает технические детали достаточно хорошо, чтобы написать это. После того как это становится законом, оно только усложняется, потому что каждый инцидент добавляет правило, и никакое правило никогда не удаляется. Большие компании могут позволить себе команды по соблюдению норм и юристов, чтобы идти в ногу со временем, и каждое новое требование делает ещё сложнее для кого-либо другого догнать их. Вместо того чтобы замедлить вас, это защищает ваше положение и прибыль. Почему я прошу вас? Вы кажетесь хорошим и принципиальным человеком, и у вас есть опыт отказа от чего-то ради того, во что вы верите. Вы покинули Open AI, чтобы создать компанию с безопасностью, встроенной с самого начала, когда безопасный карьерный шаг был бы остаться. Вы годами призывали к регулированию своей отрасли и за это получали прозвища апокалиптика и регуляторного захватчика. Вы выступали за экспортные ограничения, которые сужают ваш собственный рынок. Anthropic заплатила 1,5 миллиарда долларов, чтобы урегулировать спор с авторами, вместо того чтобы бороться до конца. И сегодня вы обязались замедлиться раньше, чем кто-либо другой. Вы также проявили прозорливость, сделав Anthropic публичной корпорацией выгоды (PBC), чтобы вы могли законно ставить миссию на первое место: ответственное развитие и поддержка передовых ИИ на долгосрочную пользу человечества. Это именно тот тип решения, когда миссия ставится выше краткосрочной прибыли, для которого существует структура PBC. Вы всё ещё остаётесь единственным человеком, который мог бы предложить закон подобного рода и быть воспринятым всерьёз, и единственным человеком, который, скорее всего, действительно реализует его. Если вы действительно хотите замедлить развитие передовых ИИ, призыв к закону, который обязал бы каждую публично доступную модель ИИ выпускать свои веса открыто. В этом нет ничего, что можно было бы использовать или обходить, даже для вас.