HeadlinesBriefing HeadlinesBriefing.com

AlphaNIST: robôs aprendem montagem com recompensas

Hacker News •
×

Montar pequenas peças é um desafio exigente para os robôs. O NIST Assembly Task Board #1 inclui vinte tarefas com componentes de apenas 4 mm, e encaixar uma única peça pode exigir várias mudanças de pegada e orientação. Folgas apertadas deixam pouca margem para erros, já que uma porca inclinada pode emperrar ou rosquear torto. Quando várias peças estão envolvidas, o robô também precisa decidir a ordem das operações, porque um componente já instalado pode bloquear o próximo movimento da garra.

Em vez de programar cada manobra, os pesquisadores por trás do AlphaNIST adotam uma abordagem diferente. Instruções codificadas à mão exigem prever como o robô deve reagir conforme os contatos e obstruções mudam, e uma garra de dois dedos pode precisar de soluções muito diferentes das que uma mão humana usaria. Em vez disso, o robô recebe uma recompensa binária pelo sucesso da tarefa e treina por meio de grandes quantidades de experiências diversas. Isso lhe dá espaço para descobrir soluções que seus projetistas nunca consideraram.

O treinamento utiliza recursos heterogêneos e estados iniciais variados. Uma única política treina em vinte montagens, começando por peças soltas, pegadas na mão e montagens parciais armazenadas em simulação. Partidas quase completas permitem ao robô praticar a finalização de uma montagem antes de precisar resolver a tarefa inteira. A amostragem guiada pelo sucesso favorece estados iniciais que a política resolve cerca de metade das vezes, mas ainda dá a cada estado uma chance, de modo que a prática muda conforme a política melhora.

Nos experimentos, uma única política executa as vinte tarefas de montagem, com um componente montado em cada execução. O trabalho, descrito em um preprint no arXiv por Octi Zhang e colegas, é apresentado como um exemplo de habilidades de montagem emergentes surgidas apenas de recompensas binárias por tarefa.

Fonte: Hacker News · Resumido por HeadlinesBriefing