Сводка «ИИ и машинное обучение» (24 часа)

Последнее обновление: October 10, 2026, 5:30 AM ET

Безопасность ИИ и ограничения

Новый подход, ориентированный на решения, под названием Jev от TypeSafe, призван проверять рискованные вызовы инструментов агентами до того, как они повлекут реальные последствия, и при этом не опирается на вторую большую языковую модель. Между тем MIT Technology Review ставит под сомнение, не слишком ли индустрия уверена в способности ИИ-систем отказывать в опасных запросах.

Экономика и инжиниринг агентов

Исследователи изучают закономерности расходов в долгоработающих агентах для программирования, чтобы понять, где вычислительные затраты концентрируются при длительных задачах. Для новичков руководство для начинающих рассказывает о создании первого ИИ-агента на основе одного вызова инструмента, а в отдельном эссе утверждается, что командам стоит относиться к ИИ как к нанятому сотруднику, за которым нужен контроль, а не как к инструменту, поскольку агенты теперь создают больше кода, чем люди способны проверить.

Здоровье и поведение моделей

Ежедневная рассылка MIT Technology Review отметила как поведение ИИ при отказах, так и новые вопросы, связанные с препаратами GLP-1. В материалах о этих препаратах для снижения веса отмечается, что их побочные эффекты изучены не полностью, а в связанной публикации рассказывается о новых профессиях, таких как диспетчер беспилотных воздушных судов для доставки, по мере расширения автономной доставки.