人和 AI，都活在自己的解释里
PROFESSIONAL NOTES
人和 AI，都活在自己的解释里
关于理解、压缩与自圆其说的随笔
人和 AI 都是在 有限算力下 ，对复杂世界做“够用的压缩”。所谓解释、理解，很多时候只是把压缩结果包装成一个顺滑的故事。
最近看了 @史中 写强化学习的文章，读到 AI 如何解释自己给出的结果，心里一直有个念头。 解释本身，也可能是一种幻觉 。
01／INTUITION
判断先发生，理由随后才赶到 有些题我们会做，步骤却讲不完整。人能动耳朵，真要问起耳朵是怎么动起来的，多半也答不上来。许多判断先发生，理由随后才赶到。 人脑里同样有大片黑箱 ，只是我们习惯了把它叫直觉、经验，或者感觉。
AI 也是这样。模型训练完，能给出一个看起来正确的结果。可它内部成千上万个参数各自做了什么，为什么恰好在这里合力推向这个答案，人们往往很难说清。
「“能用”不等于“能解释”。」
元胞自动机里也有类似的事。让一组规则随机突变、不断筛选，最后找到一套规则，使系统刚好运行四十步后停下。结果摆在那里，规则也摆在那里。 但没人能简单说明为什么这组规则有效 。
02／EXPLANATION
很多东西先是试出来的，后来才被解释 很多东西先是试出来的，后来才被解释。这件事，初中物理老师其实早就告诉过我们，只是我们后来忘了。
自然进化如此，神经网络如此，人做选择时常常也如此。我们碰到一个结果，发现它暂时管用，再慢慢给它补上理由。 理由未必是假的 ，只是它未必等于某种必然的道理。
我越来越觉得，人和 AI 都是在有限算力下，对复杂世界做“够用的压缩”。所谓解释、理解，很多时候只是把压缩结果说成一个顺滑的故事。
我们以为自己在理解世界，很多时候只是终于能把一个模糊的判断说圆了。
人类依靠直觉迅速得出结论，也会被已有知识困住。认知吝啬者、知识的诅咒、对思维固着的抵抗，或许都和这件事有关。大脑需要节省力气，也需要让自己相信眼前这套说法足够可靠、自圆其说。
∞／CLOSING NOTE
解释这件事情，本身就是一个幻觉。 或者说，这个世界也许就是个幻觉。甚至，相对论告诉我们，时间也是描述出来的。
我不觉得这有什么可悲。完整理解世界，本来就是一个过高的要求。
只是偶尔该记得， 手里拿着的未必是原文件 。
AUTHOR NOTE
我是 轩局长，《AI时代人类自救指南》。
如果这篇内容带来启发，欢迎点赞、在看、转发。