Сводка «ИИ и машинное обучение» (24 часа)
×Вы просматриваете более раннюю версию. Смотреть последнюю →
Последнее обновление: October 10, 2026, 3:40 PM ET
Безопасность ИИ-агентов
Исследователи описали двухмодельную схему, которая добавляет архитектурные защитные барьеры в то, как агенты обрабатывают недоверенные источники, ограничивая уязвимость к prompt-инъекциям до использования инструментов.
Детерминированность LLM
Новый анализ предлагает формулу из одной строки, описывающую, как часто меняется токен с наибольшей вероятностью, и объясняет, почему одинаковые запросы при temperature 0 всё же могут давать разные ответы.