ИИ — технология высокого риска, которая должна подвергаться такому же уровню scrutiny, как и ядерная промышленность, — по словам Denis Shilov, основателя startup-компании White Circle по безопасности ИИ в Париже. Он подчеркивает срочную необходимость надежных рамков безопасности по мере ускорения разработки ИИ по всему миру. Shilov предупреждает, что без надлежащего надзора неконтролируемое развитие ИИ может привести к катастрофическим последствиям, сравнимым с рисками ядерного распространения. Он призывает к международному сотрудничеству и регуляторным мерам для замедления гонки и приоритета безопасности перед скоростью. Эксперт подчеркивает конкретные опасения относительно неконтролируемых систем ИИ и их потенциального societal impacts. Shilov призывает к проактивным моделям управления, вдохновленным протоколами ядерной безопасности. Он указывает, что текущее развитие ИИ недостаточно обеспечивает гарантии и прозрачность. Основатель призывает политиков и технологических лидеров немедленно принять принципы предосторожности.

White Circle, основанная в Париже, фокусируется на разработке инструментов для оценки и смягчения рисков ИИ. Замечания Shilov поступают в контексте глобального дебата о регулировании ИИ и этичном развертывании. Он сравнивает текущую ландшафт ИИ с ранним ядерным развитием, где безопасность отстала от инноваций. Эксперт настаивает, что учиться на истории важно, чтобы избежать повторения ошибок прошлого. Его сообщение подчеркивает критическую необходимость немедленных действий в области безопасности ИИ.