Крис Хьюз, сооснователь Facebook и автор книги «Marketcrafters», утверждает, что ИИ-компаниям требуется регуляторный надзор, modeled на банковском надзоре. Дарио Амодей, CEO Anthropic, выступает за то, чтобы независимые оценщики имели доступ в реальном времени к системам компании, подобно тому, как Федеральная резервная система размещает команды внутри коммерческих банков. Этот подход позволит надзорным органам просматривать внутреннюю документацию и оценивать, управляет ли руководство рисками надлежащим образом, а не просто тестировать системы перед выпуском. В рамках этой модели встроенные надзорные органы обеспечат, чтобы люди и ИИ-агенты были сосредоточены на предотвращении плохого поведения, и будут контролировать стресс-тесты для проверки того, могут ли люди переопределить модели в экстремальных условиях. Статья предупреждает, что законодатели не смогли регулировать социальные сети, будучи перегруженными разнообразными проблемами, такими как психическое здоровье подростков и дезинформация. Чтобы избежать повторения этого с ИИ, Конгресс должен начать с наиболее насущной проблемы — безопасности модели — и строить отсюда. Создание специализированного регуляторного органа, потенциально Офиса надзора за ИИ, переведет требования в правила. Уроки банковского надзора подчеркивают необходимость персонала, понимающего технологическую парадигму и готового использовать свою власть. Старшие инспекторы должны ротировать между компаниями, чтобы предотвратить захват, обеспечивая точную оценку рисков и эффективный надзор за лабораториями передового ИИ.