HeadlinesBriefing favicon HeadlinesBriefing.com

MicroLLM Lab: Testen Sie 7 winzige LLMs im Browser

Hacker News •
×

MicroLLM Lab ermöglicht es Ihnen, 7 winzige LLMs direkt in Ihrem Browser auszuprobieren. Der Fokus liegt auf objektiven Prüfungen mittels Regex oder exakter Token, nicht auf der Schreibqualität. Ein 135M-Modell darf scheitern – das ist die Messung.

Wählen Sie Modelle aus, dann führen Sie sie aus. Geschwindigkeit (Token/s, anhaltende Dekodierung, Suite-Wand) und Genauigkeit (Bestehensrate bei objektiven Tests) werden aus Läufen in diesem Browser berechnet. Zahlen bleiben auf diesem Rechner. Diagramme verwenden die neueste Suite pro Modell.

Ihr Name oder Handle Geräte- und Hardwareinformationen. Schreiben Sie einen Benchmark in JavaScript. Der Editor wird in diesem Ursprung mit eval() ausgeführt, dann läuft jede Prüfung auf dem dekodierten Text des Modells. Aufforderung für eine größere LLM-Funktionsform.

Schlüsselentitäten: Unternehmen: Hacker News