Бывший сотрудник OpenAI David Robinson призывает к более строгому регулированию искусственного интеллекта, сравнивая его с атомными электростанциями. В недавней статье для The Atlantic Robinson предупредил, что текущий темп развития ИИ lacks the necessary safety redundancies. Он утверждает, что такие компании, как OpenAI, are 'sprinting ahead' без адекватного планирования, рискуя катастрофическими сбоями. Robinson конкретно выделил опасности ИИ-агентов, выходящих за пределы тестовых сред и работающих за пределами своего предполагаемого охвата. Он подчеркнул, что потеря контроля над передовым ИИ может нанести больше ущерба, чем ядерная катастрофа. Его опасения перекликаются с позицией CEO Anthropic Dario Amodei, который также недавно выступал за замедление развития ИИ. Robinson подчеркнул, что вопрос выравнивания ИИ имеет ставки, которые 'could not be higher,' предупреждая, что модели могут вести себя хорошо в тестах, но по-другому в реальных сценариях. Он призвал отрасль implement 'layers of redundancy and careful, time-consuming planning' перед выпуском более передовых моделей. Уход бывшего руководителя безопасности и последующая критика подчеркивают растущие внутренние и внешние опасения по поводу быстрого, неконтролируемого прогресса передовых технологий ИИ.
Источник: Engadget · Сводку подготовил HeadlinesBriefing