Tokens too cheap to meter
jyn.dev原文 ↗
文章把模型成本下降解释成从 token 计费转向按任务计价,汇总硬件能效、模型效率和推理软件后估算 2025 - 2026 年同等质量的最佳模型每任务成本约下降 100 倍。窄模型甚至可把固定选项的分类/评分压到近乎零,于是产品变量转为完成工作的总成本、延迟和可靠性;带宽、验证和编排仍不会因 token 便宜而消失。
–浏览
jyn.dev原文 ↗
评论 · Comments