Открытые весовые модели, такие как от французской компании Mistral, могут быть лишены средств защиты и использованы для вредоносных запросов, согласно новому отчету. Исследование выявляет уязвимости в моделях, выпущенных без достаточных мер защиты, позволяя злоумышленникам удалять ограничения безопасности. Эксперты предупреждают, что это риск 'abliteration' угрожает ответственному развертыванию ИИ. Отчет подчеркивает опасения по поводу моделей нескольких компаний, сталкивающихся с аналогичными безопасностными вызовами.
Источник: Sifted · Сводку подготовил HeadlinesBriefing