每日 Harness 开源 · Source
返回本期 · Back to 2026-08-16

开源 / 项目 · Projects2026-08-16 · Sunday, August 16, 2026

HyperSAE

github.com原文 ↗

HyperSAE
HyperSAE 用稀疏自编码器从语言模型激活中抽取层级概念,并以双曲空间正则化编码父子关系。其关键做法是把双曲几何移出前向路径,实际编码仍走欧氏 SAE,训练时再约束权重,因此声称不会给推理增加双曲运算延迟。这个方向把概念发现与本体结构放进同一目标函数,不过仓库目前只有很少提交,复现实验和接口稳定性仍待积累。
浏览

评论 · Comments