HeadlinesBriefing favicon HeadlinesBriefing.com

MicroLLM Lab:浏览器测试7个微型LLM

Hacker News •
×

MicroLLM Lab让您直接在浏览器中尝试7个微型LLM。重点是通过正则表达式或精确令牌进行客观检查,而非写作质量。允许135M模型失败——这就是测量方式。

选择模型,然后运行。速度(令牌/秒、持续解码、套件墙)和准确性(客观测试通过率)根据此浏览器中的运行计算。数据保留在此机器上。图表使用每个模型的最新套件。

您的姓名或句柄设备及硬件信息。用JavaScript编写基准测试。编辑器在此源中通过eval()执行,然后每个检查在模型的解码文本上运行。提示用于更大的LLM函数形式。

关键实体:公司:Hacker News

FAQ:什么是MicroLLM Lab?

MicroLLM Lab是一个基于浏览器的工具,通过正则表达式和精确令牌匹配等客观检查来测试7个微型语言模型,专注于速度和准确性。