Recurrent Looped Transformer
yifanzhang-pro.github.io原文 ↗
该架构循环复用同一 Transformer 模块，反复更新表示，以参数共享换取更深的迭代推理。它把网络看成可重复执行的程序，潜在收益是较低参数/显存，关键待解问题则是循环次数、训练稳定性与跨任务泛化如何权衡。
–浏览
yifanzhang-pro.github.io原文 ↗
评论 · Comments