每日 Harness 开源 · Source
返回本期 · Back to 2026-08-23

博客文章 · Blog Posts2026-08-23 · Sunday, August 23, 2026

Why your local LLM feels dumber than it is

forum.level1techs.com原文 ↗

Why your local LLM feels dumber than it is
论坛实验把参考实现、量化格式、推理后端、提示模板和采样参数拆开比较,解释为何同一权重在本地环境会偏离官方印象。它拒绝用几个 2.58-bit GGUF 提示就下结论,提醒本地评测必须记录运行时与模板,否则所谓“模型变笨”很可能是系统配置差异。
浏览

评论 · Comments