Llmspeed是一款社区驱动的基准测试工具，让用户在购买前估算本地LLM在各种硬件配置上的运行速度。该平台提供在单个设备上运行短提示词的性能估算，数据来源于r/LocalLLaMA和localscore.ai的社区基准测试，以及基于硬件规格的预测。用户可以按硬件浏览，包括NVIDIA RTX型号，如RTX 3090、RTX 4090和RTX 5090，以及AMD和Mac选项。测试的模型包括Qwen、Gemma、Llama和DeepSeek变体。该工具在GitHub上开源，旨在帮助爱好者就本地AI部署做出明智决策。
来源: Hacker News · 由HeadlinesBriefing整理摘要