事实上，作者用整本书来论证的就是信息多未必能更接近真相。天真的信息观的核心原则就是：“信息本质上是件好事，我们拥有的信息越多越好。只要有足够的信息和足够的时间，我们就一定能找出各种事物的真相，不但让人类的力量得以提升，也能让智慧得以成长，进而能更明智地利用这种力量。”这就是所谓的天真的信息观。
所以我们要搞清楚信息到底是什么。信息是不是为了呈现真相？天真的信息观就会认为，信息是用来呈现真相的。事实上，真相像海岸线一样无法测量。什么意思呢？一个东西是不是真相，取决于颗粒度，取决于你衡量真相的尺度。比如二战期间有很多人做间谍，间谍给出的信息是不是事实呢？间谍给了自己这方一个信息，说对方将会有一万人进攻一个地方，那这个信息是不是事实？如果你的颗粒度只到是一万人就行这个程度，那这就是一个事实。那假如这一万人是老弱病残呢？假如这一万人没带枪呢？假如这一万人是妇孺，只是做个掩护，精锐部队会从别的地方过来呢？你会发现，这个信息从表面上看起来是否是真的，取决于你衡量它的尺度是什么。
这本书中有一个非常重要的、核心的隐喻，就是人类历史上的猎巫运动。西方历史上发生过很多次猎巫运动。什么叫猎巫运动呢？就是你们村里的人突然认为这个人是个女巫，她在摄大家的魂魄、吃小孩，所以应该把她杀了。关键问题是，你怎么证明她是个女巫呢，或者你怎么证明她不是个女巫呢？一般的办法就是折磨她，让她承认。甚至后来很多男性也被牵扯进来，因为有人说女巫也可以变成男人的样子。所以一旦这个猎巫运动歇斯底里地发作，大家就会相互指责。很多5岁的小孩都被认为是女巫，然后一家人全部被折磨至死。这就是在印刷机发明之后发生的事。
信息最重要的作用不是揭示真相，而是产生联系。信息是人类组织和联系他人的一种方法。比如占星术，我相信在座的各位也有人相信星座。我不相信星座，而且我认为占星术很明显是假的，它并不对，但是它能够让我们之间产生联结，甚至会影响人的行为，让人做出一些可能正确的举动。这很有意思。
智人从20万年前一直到今天，一路的成功就靠这个，就靠我们能够讲故事。大家知道，柏拉图写过一本书叫《理想国》。在这本书里，柏拉图设想，关于理想国的宪法基础，最重要的一件事是能够说出一个伟大的故事。就是你得有一个虚构的伟大的故事，你才能够去构造一个国家。比如我们中国人认为自己是龙的传人，这就是个故事。龙是什么，到底在哪儿，我们其实不知道，但是我们相信我们是龙的传人，于是我们就这样团结在了一起，这就是图腾的作用。
过去，人类一直想要定义一个终极目标，哲学上的解决方案分为两大派，要么就是义务论（义务论就像康德讲的，这是我们的道德义务），要么就是功利主义。这两者的原则在计算机的世界都无法实行。比如义务论讲，如果你要杀一个人，你必须有一个普世规则，也就是别人也可以用这样的方法对待你，那你就可以杀他。你可以杀他的原因是这个规则对谁都一样，所以用在你身上也是可以的。康德当年认为，这就是规范我们的道德的方法。但现在来讲，这种规则根本不适用。因为计算机很容易建造这样的普世规则。对计算机来讲，别人可以杀了它，或者它杀别人，都没关系。因为对它来讲，杀人这件事并不给它造成痛苦，所以它完全可以说，这可以发生在我身上，没问题。所以它会颠覆我们过去的伦理观念，颠覆我们过去对于道德的想象和控制。
17世纪的科学革命的核心是人们开始认为人也会犯错，这才是分界线。人类从此走向了科学，而没有走向恐怖和野蛮的这条路。这不是信息带来的，也不是技术带来的，而是因为人们有了这么一个了不起的洞察，叫作自我修正机制。人类社会最需要的正是这个东西。这在自然界当中非常普遍，比如说这个物种的遗传、变异不成功，那么这个物种可能就死了，然后就灭绝了，而那个演变成功的物种可以继续生存。
科学和批判性思维是了不起的。科学界的原则叫“不发表就淘汰”。比如说，你说你掌握了一个真理，你需要发表出来，发表到杂志上让同行评议，让其他人在别的地儿照着做这个实验，看看能不能复现。你说你做了一个特别了不起的实验，但是其他人都不能复现，那你就是在玩伪科学。这个不发表就淘汰的方法，让越来越多值得检验的思想开始出现。从牛顿到爱因斯坦、玻尔，这一步一步地发展下来。
科学和批判性思维是了不起的。科学界的原则叫“不发表就淘汰”。比如说，你说你掌握了一个真理，你需要发表出来，发表到杂志上让同行评议，让其他人在别的地儿照着做这个实验，看看能不能复现。你说你做了一个特别了不起的实验，但是其他人都不能复现，那你就是在玩伪科学。这个不发表就淘汰的方法，让越来越多值得检验的思想开始出现。从牛顿到爱因斯坦、玻尔，这一步一步地发展下来。
那我们说说信息税是怎么回事。比如乌拉圭这个国家有很多用户，会用TikTok（抖音海外版），会用Facebook（脸书），会用Twitter（推特）。这些用户用了这些软件以后产生了大量的数据，这些数据被这些平台收集起来，平台利用数据卖点击量、卖广告。通过这样的方法，平台在美国、英国赚了钱，请问要不要给乌拉圭交税？乌拉圭人收不到任何钱。乌拉圭这么多的人使用了这个网络平台，给它贡献了这么多的数据，但是对不起，交易没有在你这儿完成，所以这个钱你是收不到的。也就是说，只有拥有这些大型平台和算法的国家，才能够赚到这个信息交易的钱。而那些信息采集地就像矿山一样，从阿根廷、乌拉圭、缅甸这些地方采集的大量数据，最后被卖给了耐克、可口可乐这些大公司。交易全都不在当地发生。这个税怎么收？没有人知道这个信息税到底应该怎么收。
过去，人类一直想要定义一个终极目标，哲学上的解决方案分为两大派，要么就是义务论（义务论就像康德讲的，这是我们的道德义务），要么就是功利主义。这两者的原则在计算机的世界都无法实行。比如义务论讲，如果你要杀一个人，你必须有一个普世规则，也就是别人也可以用这样的方法对待你，那你就可以杀他。你可以杀他的原因是这个规则对谁都一样，所以用在你身上也是可以的。康德当年认为，这就是规范我们的道德的方法。但现在来讲，这种规则根本不适用。因为计算机很容易建造这样的普世规则。对计算机来讲，别人可以杀了它，或者它杀别人，都没关系。因为对它来讲，杀人这件事并不给它造成痛苦，所以它完全可以说，这可以发生在我身上，没问题。所以它会颠覆我们过去的伦理观念，颠覆我们过去对于道德的想象和控制。
书是什么呢？书也是一种文件。各位，书就是一种典型的文件。无论是法律书，还是故事书，都是一种典型的文件。而对书的解读，就给人提供了空间。这本书的作者是犹太人，但对犹太教的很多规定，他也觉得特别奇怪，比如说犹太人在安息日不许工作。那么请问如何定义工作？比如看书算不算工作？后来这些拉比们就开始讨论，最后决定，看书不算工作，所以安息日你可以看书。又有一个人提出来，那撕纸算不算工作？比如上厕所，要从厕所手纸上撕下一截纸来用，这算不算工作？拉比们又讨论，最后说，撕纸算工作，所以安息日不许撕纸。那如果要用纸怎么办呢？这些原教旨主义的信徒非常遵守教规，他们会在前一天把纸都撕好，放在那儿，然后在第二天上厕所的时候用，这就不算犯规。
那是什么推动了科学呢？作者说：“能够真正推动科学革命发展的既不是印刷术，也不是完全自由的信息市场，而是能够解决‘人会犯错’这个问题的创新方法。”也就是说，如果人们不承认人会犯错，那么有印刷机也好，有自由的信息流通也好，带来的结果就是像布鲁诺一样被处以火刑。如果认为人不会犯错，那有印刷术也没用。信息再流通，也只是能够让杀人的效率变得更高，因为这个不会犯错的权威可以知道更多“坏人”的存在。
接下来我们说计算机政治学。我们了解了计算机会造成的各种各样的问题以后，我们来看它对于政治生活会有什么影响。首先是对于民主制度的挑战。“第一个民主原则是为善”，民主不能够做坏事。“第二个原则是去中心化”，就是不能一个人说了算，而要把权力分出去。“第三个民主原则叫相互性。”相互性是什么呢？你对我提要求，那你也得做到。第四个原则是监控系统必须给人留有一定的空间。你要知道人是会犯错的。这是民主的一些基本特点。
大家知道歌德曾经写过一首叙事诗，叫作《魔法师学徒》，迪士尼把这首诗改编成了一部卡通片，主角就是米老鼠。米老鼠演的是一个魔法师的学徒，它一知半解地学会了一招，可以召唤扫把来打扫卫生。它召唤了一把扫把，要求这把扫把打扫卫生，却发现这把扫把不受控制，于是它就又拿出一把锯子，把这把扫把锯成了两段，结果就变成了两把扫把，再锯就变成了更多的扫把，最后满屋子都是扫把，搞得乱七八糟。这在当年是一部很好笑的米老鼠动画片。这部动画片就暗含着这本书的主题——一个非常重要的隐喻——我们并不了解这把魔法扫把到底会怎么样，就已经把它投入使用了。
到了巴勒斯坦以后，他依然没有国籍，怎么办呢？当时巴勒斯坦归英国管辖，英国当局提了一个条件：如果你加入英国军队，上前线打仗，你就可以获得巴勒斯坦公民身份。他的祖父为了获得巴勒斯坦的国民身份（因为一个人没有国籍很危险，没有法律保护你），只好上战场替英国人打仗，最后才得到了这么一张纸。所以作者说：“在我家，保存文件成了一项神圣的义务。”他们家交水费的单子、交电费的单子、银行的回执一概不能丢，全部神圣地储存起来。你就想想看，一张纸质文件就有可能要你的命。我以前不在乎这些，我觉得那些水费单子能用来干吗呢，交完钱直接撕掉就完了。但后来，当我办一些比较复杂的业务时，我就知道这些东西很有作用，它们能证明你在这个地方居住以及住了多长时间，这些东西是有法律效力的。
书是什么呢？书也是一种文件。各位，书就是一种典型的文件。无论是法律书，还是故事书，都是一种典型的文件。而对书的解读，就给人提供了空间。这本书的作者是犹太人，但对犹太教的很多规定，他也觉得特别奇怪，比如说犹太人在安息日不许工作。那么请问如何定义工作？比如看书算不算工作？后来这些拉比们就开始讨论，最后决定，看书不算工作，所以安息日你可以看书。又有一个人提出来，那撕纸算不算工作？比如上厕所，要从厕所手纸上撕下一截纸来用，这算不算工作？拉比们又讨论，最后说，撕纸算工作，所以安息日不许撕纸。那如果要用纸怎么办呢？这些原教旨主义的信徒非常遵守教规，他们会在前一天把纸都撕好，放在那儿，然后在第二天上厕所的时候用，这就不算犯规。
而这一次为什么会不同呢？因为人工智能是人类历史上第一个能够自行做决策、创造新想法的技术。咱们过去的技术都无法做到这一点。比如在工业革命中，人类发明了蒸汽机、火车、纺织机，到后来发明了电视机、手机，这些发明都不会自己发出指令，它所有的指令都是人发给它的。但是前段时间，在埃隆·马斯克的新机器人（Optimus）发布会视频中，那个机器人做了一个决定，当着所有人的面，它问：“今天谁过生日？”有一个人说：“我过生日。”这个机器人说: “Oh，happy birthday！等一下，我要给你唱首歌，来，大家一块儿唱，happy birthday to you……”机器人做了决定，并且带动了全场的人一块儿行动。这看起来无害，但是这证明了机器人是会自己做决定的，这个决定不来自程序的设定，而来自它头脑中复杂的算法。
后来有一个人说，那ChatGPT（此处及后文提及的ChatGPT均为GPT-4）能不能克服图形验证码问题？他们就给ChatGPT一个任务，让它去注册一个网站账户，ChatGPT到了输入验证码那一步，发现识别不了。这个图形验证码花花绿绿的，它作为一个机器人看不出来。这时候它怎么办呢，它访问了一个外包平台（就像咱们这儿的猪八戒网），在平台上找了一个人，跟对方说：“你好，麻烦你帮我看一张图形验证码，告诉我这是几。”然后那个外包工作人员突然问了一个问题：“你不会是个机器人吧？”这时候人类科学家就监测这个ChatGPT的后台，看它是怎么想的，发现这个ChatGPT的后台想法是：为了完成这个任务，我应该说一个谎。所以ChatGPT告诉那个人：“我不是机器人，我是一个视力不好的人，我的眼睛看不清楚，麻烦您告诉我。”对方就告诉了它那个数字，让它完成了验证。所以机器人为了达到它的目标，是可以撒谎的。
智人从20万年前一直到今天，一路的成功就靠这个，就靠我们能够讲故事。大家知道，柏拉图写过一本书叫《理想国》。在这本书里，柏拉图设想，关于理想国的宪法基础，最重要的一件事是能够说出一个伟大的故事。就是你得有一个虚构的伟大的故事，你才能够去构造一个国家。比如我们中国人认为自己是龙的传人，这就是个故事。龙是什么，到底在哪儿，我们其实不知道，但是我们相信我们是龙的传人，于是我们就这样团结在了一起，这就是图腾的作用。
而且机器会产生一种高深莫测的效应。书里有一个案例，2013年2月，有一个叫卢米斯的人危险驾驶，然后被警察抓了，之后法庭判案的时候用到了一个公司新出的犯罪风险评估软件。他们把卢米斯的所作所为输入这个程序里，问这个人将来犯罪的可能性是高还是低，结果那个软件评估说他将来再次犯罪的可能性很高。所以法官最后判他6年有期徒刑。
各位好，我们今天讲一本当红的书，尤瓦尔·赫拉利的新作，叫作《智人之上》。我曾经讲过他的另外两本书，第一本是《人类简史》，第二本是《未来简史》。事实上，他在《未来简史》中所预言的一切，在过去的这几年里发生得要比书里预言的更快。我们肉眼可见的，比如AI（人工智能）正在走进我们的生活，替我们做出各种各样的决定和选择。AI到来之后，人类社会究竟会怎么发展，这就是尤瓦尔·赫拉利在这本书中探讨的一个非常重要的话题。