搜索
Mozilla Builders的LocalScore：一个有趣的本地AI大模型基准测试
1 周前
Mozilla通过其Mozilla Builders计划发布了LocalScore，这是一个针对本地AI大型语言模型（LLM）的基准测试工具，适用于Windows和Linux系统。LocalScore基于Mozilla的Ocho Llamafile项目，旨在提供一个易于分发的LLM框架。尽管仍处于早期阶段，但LocalScore已经展现出良好的运行效果。它成为Llamafile的新功能，并引入了LocalScore.ai作为可选存储库，用于存放CPU/GPU的基准测试结果。这些结果基于微型/小型/中型Meta Llama 3.1模型的官方模型。LocalScore可以从Llamafile包触发，或者通过独立的LocalScore二进制文件在Windows和Linux上进行AI基准测试，是一种评估LLM系统性能的简单且便携的方法。
