Генеральный директор Y Combinator Garry Tan хочет, чтобы американские AI-лаборатории с открытыми весами дистиллировали фронтирные модели. «Я бы ничего не делал», — сказал он CNBC, добавив: «Можно утверждать, что должен существовать американский режим дистилляции». Он пояснил TechCrunch, что меньшие американские AI-лаборатории с открытыми весами должны использовать те же методы обучения на американских фронтирных AI-лабораториях, давая США более надёжный набор вариантов с открытыми весами, которые не являются китайскими.

Дистилляция — это когда создатель модели интенсивно запрашивает другую модель, чтобы узнать, как она работает и рассуждает. Она обычно и законно используется AI-лабораториями для помощи в обучении новых моделей. Anthropic на этой неделе выпустила свой второй отчёт, утверждающий, что китайские лаборатории занимаются «незаконными дистилляционными атаками», скрывая свою личность, чтобы дистиллировать без разрешения, и полагаясь на мошенничество и украденные учётные данные. Генеральный директор Anthropic Dario Amodei ранее публично призывал американских регуляторов бороться с дистилляцией.

Tan не призывает американские AI-лаборатории использовать украденные учётные данные для дистилляции. Он хочет, чтобы они могли свободно войти через парадную дверь. Его аргумент двойственен: это превышение полномочий для AI-лабораторий диктовать, что их клиенты могут делать с информацией, которой делятся их модели, и проприетарные AI-лаборатории не спрашивали разрешения, когда они впитывали человеческие знания для обучения своих моделей.

«Контролировать то, что пользователи и клиенты делают с API-запросами к моделям с закрытыми весами, кажется ограничивающим», — сказал он TechCrunch. Tan хочет баланса между AI-лабораториями с открытыми весами и фронтирными лабораториями. Для него истинный сценарий AI-апокалипсиса — это когда вся огромная мощь фронтирного AI окажется в руках единственного могущественного проприетарного провайдера. «Сценарий кошмара, сценарий апокалипсиса для AI — это когда есть только одна компания», — сказал он.

Ключевые субъекты: Компании: Y Combinator, Anthropic, CNBC, TechCrunch | Люди: Garry Tan, Dario Amodei | Места: США, Китай, Silicon Valley