Отставка исследователя Anthropic Jacob Cox-Smith на прошлой неделе привлекла новое внимание к вопросу, достаточно ли венчурные капиталисты оценивают риски безопасности ИИ перед инвестициями. По мере того как модели ИИ становятся мощнее, инвесторы сталкиваются с растущим давлением в отношении оценки потенциальных опасностей, включая злоупотребление, предвзятость и проблемы долгосрочного выравнивания. Такие компании, как Sequoia Capital и Andreessen Horowitz, начали внедрять проверки безопасности в свои процессы должной осмотрительности, однако критики утверждают, что этих мер недостаточно. Некоторые инвесторы теперь требуют, чтобы компании портфеля проходили внешний аудит безопасности и принимали рамки прозрачности. Однако быстрые темпы развития ИИ часто опережают регуляторный и этический надзор. "Нам нужно убедиться, что безопасность — это не второстепенное соображение", — сказала Сара Чен, партнер Eclipse Ventures. "Она должна быть заложена в каждое инвестиционное решение с первого дня." Регулирующие органы ЕС и США также вмешиваются, предлагая более строгие руководящие принципы управления ИИ. Тем временем стартапы продолжают бороться за финансирование, что вызывает вопросы о том, соответствуют ли финансовые стимулы ответственным инновациям. Дискуссия обострилась после нескольких громких уходов из ведущих лабораторий ИИ, что подчеркнуло внутренние противоречия в приоритетах безопасности. По мере того как отрасль сталкивается с этими вызовами, заинтересованные стороны призывают к стандартизированным эталонам безопасности и большей подотчетности в инвестиционной цепочке.