HeadlinesBriefing favicon HeadlinesBriefing.com

HomeBody: гуманоидный робот с пространственной памятью

Hacker News •
×

HomeBody — гуманоидный робот, предназначенный для длительных задач loco-manipulation в неструктурированных средах, таких как кухни. Он сочетает пространственную память с компонуемыми навыками для выполнения сложных действий, таких как уборка, поиск предметов и утилизация отходов — даже когда объекты находятся вне поля зрения. Система использует исследование для построения внутренней пространственной модели на основе эгоцентрических данных, включая видео iPhone, камеру D435i, сканы LiDAR с SLAM, положения суставов и точки маршрута, выбранные Astra. Эти данные лежат в основе процесса Real2Sim в Isaac Sim, создавая геометрически, семантически и визуально точный цифровой двойник для рассуждений за пределами непосредственного восприятия. HomeBody выполняет задачи, такие как сбор пакетов с кофе, размещение их на острове и удаление испорченных коробок, координируя ходьбу, захват и манипуляцию обеими руками. Он использует сохраненные ключевые кадры для локализации скрытых объектов, таких как лекарства в ящике, и извлекает их с помощью бимануальной координации. Библиотеки навыков для навигации, захвата, размещения и открытия ящиков являются компонуемыми, с локальными повторами и визуальной обратной связью, позволяющими VLM пересматривать решения после неудач. Робот динамически адаптируется к меняющимся видам и незавершенным задачам благодаря обратной связи между выполнением действий и обновлениями пространственной памяти.