Anthropic объявила, что начала предоставлять команде MET R доступ, сопоставимый с доступом сотрудников. MET R — это некоммерческая организация, которая оценивает передовые модели ИИ, и она опубликует результаты своих оценок рисков. Этот шаг следует за обязательством компании усилить независимую оценку своих моделей и практик безопасности со стороны третьих сторон, а также за подписанием Белым домом Соглашения о сверхинтеллекте, в котором компании обязались сотрудничать с независимыми внешними аудиторами или оценщиками.
За последний год Anthropic совместно с MET R провела несколько проверок своих отчетов о рисках. Компания также работает с Secure Bio и Accenture в качестве оценщиков и ведет предварительные переговоры с несколькими другими организациями, включая Hugging Face. Anthropic заявляет, что по мере роста возможностей моделей им требуются более надежные меры защиты и более сложные оценки рисков, а компания хочет публично отвечать за свои решения. Поскольку некоторая информация о безопасности может быть полезна злоумышленникам или коммерчески чувствительна, компания вместо этого предоставляет сторонним оценщикам глубокий доступ и просит их делиться доказательствами и обоснованными выводами.
Чтобы соответствовать требованиям, оценщики должны обладать опытом оценки передовых моделей, быть независимыми от компаний, которые они оценивают, иметь достаточный доступ для содержательной оценки рисков и свободу публиковать свои выводы. Anthropic сравнивает этот подход с банковским надзором, при котором регуляторы размещают резидентных инспекторов внутри крупнейших банков.
Anthropic приняла на работу шестерых сотрудников MET R, предоставив им корпоративное оборудование, офисное пространство и доступ к внутренним инструментам, примерно равный тому, что имеют собственные команды компании по оценке рисков. Anthropic не может наложить вето на публикацию, но может потребовать удаления информации в узких, заранее определенных категориях, например данных клиентов, информации, защищенной адвокатской тайной, или архитектуры моделей. Компания утверждает, что такая договоренность не является способом получения другими организациями ее информации или информации ее клиентов и партнеров.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing