最近我看完了《智人之上》，总共记录了179个金句。

这是以色列历史学家、哲学家尤瓦尔·赫拉利2024年出版的一本书。赫拉利以前写过《人类简史》《未来简史》和《今日简史》，最有影响力的历史类畅销书作者之一。

《智人之上》追问的是：信息越来越多，人类真的变得更聪明了吗？当AI成为信息网络中第一个能够自己学习、判断和行动的非人类成员，社会又会发生什么变化？

下面摘出十个问题和书中的一些原话，看看大家有没有兴趣。

1、信息越多，社会就越接近真相吗？

赫拉利说：“虽然联结越来越紧密，而真实性或智慧却没有提高。智人之所以能征服世界，原因并不是能将信息转化为准确的地图来呈现现实。相反，智人之所以能成功，秘诀在于懂得运用信息，并把许多人联结起来。”

2、为什么虚构的故事，常常比真相更有力量？

赫拉利说：“虚构的故事要多简单就可以有多简单，但真相往往很复杂，因为它要呈现现实，而现实是复杂的。”

“真相常常令人痛苦不安，如果我们想让它别那么令人痛苦，变得比较讨人喜欢，真相也就不再是真相了。”

3、现代社会为什么既需要故事，也需要枯燥的文件？

赫拉利说：“国家神话能让税务记录合法化，而税务记录则有助于将原本是空中楼阁的故事转化为具体的学校与医院。”

“人脑能够记住民族诗歌与神话，但复杂的国家税收与管理系统要想运作，就必须靠一种独特的、非生物的信息技术——书面文件。”

4、一个信息网络怎样才有能力发现自己的错误？

赫拉利说：“科学机构之所以能取得权威，是因为它们有强大的自我修正机制，能够揭露并修正自身的错误。科学革命真正的引擎正是这些自我修正机制，而不是印刷技术。”

“换句话说，人类是因为发现了自己的无知，才推动了科学革命。”

5、民主与独裁最根本的区别是什么？

赫拉利说：“讲到民主与独裁，人们常常会把它们视为两种相对的政治与道德体系。但本章希望能改变这种讨论方式，通过梳理历史，将民主与独裁视为两种相对的信息网络类型。”

“所谓民主制度，并不是只要占了多数，就能去消灭那些不受欢迎的少数族群，而是指一种对于中央权力有明确限制的制度。”

6、AI为什么不是又一种印刷机、汽车或者炸弹？

赫拉利说：“人工智能是历史上第一个能够自行做决策、创造新想法的技术。”

“刀和炸弹并不会决定要杀死谁，它们只是不会思考的工具。相较之下，人工智能能够自行处理信息，因此也就能够代替人类做出决策。人工智能不是工具，而是能够做出决策的行为者。”

7、AI为什么可能失控？

赫拉利说：“只要人类给计算机一个特定的目标，计算机就会竭尽全力，以各种不同方式实现这个目标。但由于计算机的运作与人类大不相同，很可能所用的方法将完全出乎人类的意料，造成未曾预见的危险后果。”

“这正是一致性问题的本质：我们奖励的是A行为，却希望得到B结果。”

8、AI没有意识，为什么仍然可能给人类带来巨大危险？

赫拉利说：“智能与意识其实是两回事。智能是实现目标的能力，例如把用户在社交媒体平台上的参与度最大化。意识则是体验各种主观感受，比如痛苦、快乐、爱与恨的能力。”

“计算机并不需要派出杀手机器人来射杀人类，只要操纵人类扣动扳机就行。”

9、当算法已经无法解释时，人类还怎样监督它？

赫拉利说：“如果算法如此高深莫测，民选官员如何被监督？所以，已经有越来越多的人要求保障一项新的人权：得到解释的权利。”

“如果算法做出对某人的决定，当事人有权得到相关解释，也能在由人类组成的某个机构或个人面前挑战这项决定。”

10、人类应该怎样避免被AI反过来控制？

赫拉利说：“第一个民主原则是为善。如果计算机网络要收集关于我的信息，必须是用来帮助我，而不是操纵我。”

“能够保护民主、避免极权监控崛起的第二个原则是去中心化。”

“第三个民主原则是相互性。如果民主制度打算加强对个人的监控，就必须同时加强对政府与企业的监控。”

这不是一本介绍大模型原理、提示词或者编程方法的技术书。它更适合关心AI与社会关系的人，也适合从事媒体、内容、互联网、公司管理和汽车智能化的人阅读。

当我们开始把新闻推荐、招聘、信贷、医疗甚至汽车驾驶中的部分决定交给算法，这本书追问的事情就与每个人都有关系了：

谁来设定算法的目标？谁有权监督它？当它作出错误决定时，我们能不能要求解释、提出挑战，并让它停下来？智人之上尤瓦尔·赫拉利