本地 GPU 基准测试：开源权重语言模型全量实测

在本地专用 GPU 硬件（2× RTX 5060 Ti，32 GB 显存）上进行的全量开源权重模型评测：核心总分、全量总分、真实运行耗时与逐项时间效率指数（0–100）。

主表对比的是云端大模型与官方公布成绩，而本页展示紧凑型开源权重模型（4-bit / 8-bit 量化）在真实本地硬件上的全量表现（区分关闭思考与开启思考）。每个单元格同时展示得分、实际耗时与时间效率，一眼看出哪些模型在半小时内给出高分、哪些模型空转数小时。

本地硬件独立全量实测： 本页每项测试均在本地 GPU 服务器上跑完完整数据集（无抽样缩水）。持续运行的电费、显卡硬件与外部裁判 API 每年都会产生开支——如果这些数据对您有帮助，欢迎自愿支持。

了解评测工作量与未来硬件计划

全量数据集而非小样本：每个模型跑完 MMLU-Pro（12,032 题）、SciCode 或 SWE-bench 往往需要数小时满载运行。

日常运行开支：全天候电费、显卡硬件以及外部裁判模型（如 Gemini）的 API 费用每年都会产生一定支出。

硬件持续升级：当前测试平台为 2× NVIDIA RTX 5060 Ti（32 GB 显存），未来升级更强硬件后可通过上方硬件筛选器直接对比。

单元格配色

前 10%前 25%中游 50%后 25%末 10%

≥ 75 高效率（短时间取得高分）40–74 中等效率< 40 低效率（例如耗时 3 小时仅得 22%）

本地全量测试正在运行中，首批结果即将发布

我们的本地 GPU 测试平台（2× RTX 5060 Ti，32 GB 显存）正在进行全量评测。结果发布后将在此展示得分、真实耗时与时间效率。

2× RTX 5060 Ti (32 GB VRAM) · 2× NVIDIA GeForce RTX 5060 Ti (16 GB GDDR7 × 2, Tensor Parallelism 2) · vLLM 0.29.0