HeadlinesBriefing favicon HeadlinesBriefing.com

MicroLLM Lab:ブラウザで7つの小さなLLMをテスト

Hacker News •
×

MicroLLM Labを使用すると、ブラウザで直接7つの小さなLLMを試すことができます。焦点は、正規表現や正確なトークンを使用した客観的なチェックにあり、文章の質ではありません。135Mモデルは失敗することが許されています——それが測定です。

モデルを選択し、実行します。速度(トークン/秒、持続デコード、スイートウォール)と精度(客観的テストの合格率)は、このブラウザでの実行から計算されます。数値はこのマシンに残ります。グラフはモデルごとに最新のスイートを使用します。

あなたの名前またはハンドル デバイスとハードウェア情報。JavaScriptでベンチマークを記述します。エディターはこのオリジンでeval()され、各チェックがモデルのデコードされたテキストで実行されます。より大きなLLM関数フォームのプロンプト。

主要エンティティ:企業:Hacker News

FAQ:MicroLLM Labとは?

MicroLLM Labは、正規表現や正確なトークンマッチングなどの客観的なチェックを使用して7つの小さな言語モデルをテストするブラウザベースのツールで、速度と精度に焦点を当てています。