AI & ML Research 24 Hours

Последнее обновление: September 5, 2026, 10:15 PM ET

AI и ML исследования

Новое визуальное руководство объясняет, почему трансформерам требуется позиционное кодирование для задач с временными рядами, показывая, как самовнимание теряет порядок последовательности без явной позиционной информации. Руководство последовательно рассматривает переход от скалярных наблюдений к самовниманию и демонстрирует, как позиционная информация восстанавливает необходимый порядок последовательности.

Отдельно исследователи предлагают трансферное обучение с моделями пониженного порядка для улучшения производительности обучения с подкреплением на сложных динамических системах, сокращая затраты на симуляцию при сохранении точности. Этот подход использует модели пониженного порядка для ускорения обучения в задачах, основанных на физике, которые в противном случае были бы вычислительно неосуществимы.