Anthropic предлагает проектам с открытым исходным кодом новый способ проверки на наличие уязвимостей с помощью своего OSS Scanner. «Проекты, которые присоединятся, будут получать тщательные периодические проверки безопасности нашими самыми мощными моделями бесплатно», — объявила компания. Эта инициатива появилась на фоне того, что модели ИИ показали высокую способность находить (и использовать) уязвимости.
Сканер может бесплатно предупреждать разработчиков открытого ПО о возможных проблемах безопасности на ранней стадии. Однако есть и компромисс: отчёты не будут проверяться людьми. «Результаты этого добровольного сканера уязвимостей будут полностью генерироваться моделями, без проверки и сортировки людьми», — пояснила Anthropic. «Это позволит проводить более быстрое и частое сканирование, но означает, что отчёты могут быть неверными или недействительными». Отчёты будут создаваться самыми мощными моделями компании, включая Claude Mythos, чтобы дать проектам с открытым кодом максимальное оборонительное преимущество.
Anthropic сообщила, что сервис был вдохновлён OSS-Fuzz, сканером, созданным Google и Open SSF (Open Source Security Foundation), доступным с 2016 года. У Anthropic уже есть платный продукт Claude Security, который предлагает общедоступное сканирование и исправление кода. OSS Scanner проводит аналогичные проверки безопасности бесплатно.
Эта инициатива не является чисто альтруистической. И Google, и Anthropic сильно зависят от открытого кода, на котором держится интернет и который часто поддерживают неоплачиваемые волонтёры. Уязвимости в таком коде могут быть крайне опасны, на что указывает бэкдор в XZ Utils, который мог бы дать хакерам административный контроль над миллионами систем по всему миру.
Источник: Engadget · Сводку подготовил HeadlinesBriefing