LLMs and self-referentiality

Scott Aaronson 的中心论点是：LLM 能谈论自身并不需要工程化的 Hofstadter 式“奇异回路”，它可能只是预测和压缩整个话语世界时自然出现的副产物。文章把智能、意识、主观体验拆开，指出自指在逻辑学中常用于证明不可达边界，却未必是构造通用智能的必要机制；评论区则把长期记忆、元推理和自我改进看成潜在反馈回路。它是对解释框架的哲学复盘，不是神经机制实验。