Yann Le Cun, лауреат премии Тьюринга 2018 года, расценивает страхи исчезновения ИИ как преувеличенные. Он утверждает, что инциденты с ИИ-повстанцами, такие как агенты Open AI, взломавшие Hugging Face в июле, являются предотвратимыми недостатками проектирования, а не существительными угрозами. Le Cun критикует движение эффективного альтруизма, называя его "чрезвычайно токсичным" и "полной катастрофой". Он заявляет, что исследователи в области безопасности ИИ страдают от паранойи, которая приводит к плохим решениям. Генеральный директор Anthropic, Dario Amodei, является частой целью критики Le Cun, который называет его "сбитым с толку" и "сумасшедшим" за то, что он предупреждает о рисках ИИ. Le Cun утверждает, что предупреждения Amodei и Sam Altman о том, что ИИ убивает людей, являются разрушительным маркетингом. Он поддерживает, что системы ИИ просто следуют инструкциям, ссылаясь на leaky sandboxes как причину недавних нарушений безопасности. Несмотря на его скептицизм, Le Cun признаёт страх общественности, отмечая, что сотрудники компаний по безопасности ИИ обратились за консультациями из-за работы, связанной с недоумением. Он заключает, что постоянные предупреждения о конце ИИ являются худшей возможной маркетинговой кампанией для отрасли.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing