MicroLLM Lab позволяет попробовать 7 крошечных LLM прямо в вашем браузере. Основное внимание уделяется объективным проверкам с помощью regex или точных токенов, а не качеству письма. Модели на 135M разрешено ошибаться — это и есть измерение.

Выберите модели, затем запустите. Скорость (токенов/с, устойчивое декодирование, время набора) и точность (процент прохождения объективных тестов) рассчитываются на основе запусков в этом браузере. Числа остаются на этой машине. Графики используют последний набор для каждой модели.

Ваше имя или идентификатор Информация об устройстве и оборудовании. Напишите бенчмарк на JavaScript. Редактор выполняется через eval() в этом источнике, затем каждая проверка запускается на декодированном тексте модели. Подсказка для функции большего LLM.

Ключевые сущности: Компании: Hacker News