Я создал Lathoa для детей от 10 до 14 лет. Робот по имени Errol решает задачи по математике по шагам, но один шаг преднамеренно неправильный. Ребенок должен найти ошибку и объяснить, почему она неправильна, чтобы получить XP. Иногда ничего не ошибается, поэтому угадывать «ошибка есть» не работает—требуются объяснения. Скорость также влияет на оценку. Нет прямого чата с LLM; Lathoa использует стабилизацию с этапами оценки для захвата несоответствий и инъекций подсказок. Вы можете играть в случай на главной странице без регистрации. Сделать ИИ ошибшейся намеренно сложно: половина времени она дает правильный ответ и называет его ошибочным, или помечает правильный шаг как ошибку. Поэтому каждый случай заранее проверяется. Где возможно, простая арифметическая проверка точно повторяет вычисления. Вторая модель решает задачу, не видя работы Errol. Если они не согласны, случай отбрасывается. Слабость в том, что вторая модель может сделать ту же ошибку, что и первая. Арифметическая проверка помогает, но пока работает только для английских случаев—немецкие и греческие используют запятые для десятичных чисел, и разбор пока не исправлен. Я интересуюсь: учиться ли больше, находя чужую ошибку, чем решая задачу самому? Я не уверен, и мне бы хотелось услышать мнения преподавателей.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing