В конце прошлого месяца Anthropic опубликовала доклад, в котором утверждается, что GLM-5.3, мощная модель, выпущенная в августе китайской компанией Z.ai, создает серьезный риск кибератак, поскольку любой может бесплатно скачать и изменить ее. Это заявление стало очередным эпизодом давнего спора о том, должны ли передовые модели ИИ быть открытыми или оставаться закрытыми за дверями ведущих лабораторий.
Значительная часть дискуссии происходит публично, и на ее исход поставлены большие деньги. Генеральный директор Nvidia Дженсен Хуанг, который выиграет, если люди продолжат покупать собственное оборудование для запуска открытых моделей, активно выступает за то, чтобы Соединенные Штаты разрабатывали их больше. Дарио Амодеи из Anthropic, чья компания может пострадать от дешевых и мощных моделей, выступает за более осторожный подход. Однако за этими коммерческими интересами стоит и реальное содержание. Как отмечает Дэвид Грей Видер из Техасского университета в Остине, то, как человек относится к открытости, определяется тем, как он смотрит на ИИ в целом.
Сторонники безопасности ИИ предупреждают, что открытыми моделями легко могут злоупотребить недобросовестные участники. Другие же сосредоточены на практическом потенциале ИИ и утверждают, что эта сила не должна оставаться за закрытыми дверями нескольких крупных компаний, а открытые модели способны распространить ее шире. Варианты простираются от полного запрета открытых моделей до их свободного выпуска, и любой подход предполагает компромиссы между безопасностью и демократизацией.
Открытые модели дают конкретные преимущества. Закрытые модели, такие как те, на которых работают ChatGPT и Claude, доступны только через сайт, приложение или API. Открытые модели можно скачать, а их веса модели общедоступны, что позволяет запускать их на собственных компьютерах и, при наличии нужных знаний, переобучать. Сейчас закрытые модели более мощны: все восемь лидеров рейтинга LLM от Artificial Analysis закрытые, однако открытые отстают лишь на несколько месяцев. Исследователи полагаются на открытые модели, чтобы наблюдать за их внутренней работой и цепочками рассуждений, объединять, сжимать и тонко настраивать их. Есть у таких моделей и бизнес-причины, по которым компании их предпочитают.
Источник: MIT Technology Review AI · Сводку подготовил HeadlinesBriefing