Compression is prediction

ngrok 从信息论说明，越能预测下一个符号，就越能用更短编码表示它，压缩与预测因此共享同一目标。将这一关系放回 token、上下文压缩和模型训练中，可以看出“省 token”并非独立技巧，而是对可预测结构的利用。