← 返回书单
📜 历史与传记
📖
为什么伟大不能被计划

为什么伟大不能被计划

历史与传记 · 2026-04-29 · 重点提炼
📖 书籍介绍
今天要讲的这本书太重要了,这是我近年来读过的最开脑洞的一本书,它深深地影响了我的价值观。这本书叫作《为什么伟大不能被计划》,它的两位作者是ChatGPT的核心研发工程师。现在大家认为,ChatGPT是一场至少不亚于工业革命的变革。如此重要的一项技术的发明者,跟我们讲述他们在研发ChatGPT的过程中获得的心得和启发,我相信一定会对每一个人产生强烈的冲击。 人类历史上所有的伟大创新,往往都是意外所得。所有伟大的创新都必须有踏脚石,而你是难以分辨这些踏脚石的。你根本不会意识到电子管会成为计算机的踏脚石,自行车会成为飞机的踏脚石。在莱特兄弟发明飞机之前,所有试图飞行的人采用的飞行模式都是像鸟一样飞,他们无一例外都失败了。莱特兄弟的工作是什么呢?他们是卖自行车的。所以在他们那个时代,有了自行车链条和汽车发动机的发明,莱特兄弟才能够发明飞机,这就是踏脚石的作用。 有人会有疑问:如果伟大不能被计划,那登月计划是怎么回事?当年,肯尼迪说我们一定要把人送上月球,并且带回来,这不是一个伟大的计划吗?你注意,登月计划并非重大突破。因为在肯尼迪宣布登月计划之前,加加林都已经绕着地球飞行了,所有实现登月计划所需要的踏脚石都已经出现。在这种时候,你会发现计划是有用的。当大家看清楚了方向,找到了足够多的踏脚石以后,我们在短期之内集中力量去完成一件事,这是没有问题的。所以,这本书的作者一再强调,说他的目的绝对不
🔑 核心要点
01

另外一个议题是关于人工智能的,这个我们不深入讲了,太专业了。简单地说,人工智能是什么呢?是对搜索算法的搜索。我们过去说,人工智能就像是一个更大、更智能的搜索工具,其实不是,人工智能是对搜索算法的搜索,就是你怎么找出一个更科学的搜索算法,这个叫作元搜索。比如这本书的作者,他们这一群幸运的OpenAI的科学家,他们所发现的搜索方式,不是我们过去的目标函数导向式的搜索方式,而是有趣性搜索方式,这就是一个对搜索方法的搜索,这是人工智能的一个本质。

02

有人听到这儿,可能会觉得:我明白了,这本书讲的就是要把目标和多样性结合起来,我要有一个了不起的目标,然后再增加一些多样性,随时对多样性做好准备。是不是这个意思呢?这个作者说不是,你千万不要这样想。为什么?因为目标具有欺骗性。不是说我们有这个目标,再增加多样性就好,而是这个目标本身就会带来欺骗性,这个欺骗性会导致我们在选择的时候出现偏差。尤其是在设定迷宫这个游戏的时候,你会发现没有哪个迷宫非常简单,在复杂的迷宫中,出口就是欺骗性,因为你的目标函数是要接近出口,但“接近出口”的目标是错的。我们的人生中有很多可能性,我们希望安全、稳定,我们希望自己能够很快受到尊重,但你会发现,你对于安全、稳定、尊重的需求,都让你离获得真正的安全、稳定、尊重越来越远,这就是目标的欺骗性。

03

有人会有疑问:如果伟大不能被计划,那登月计划是怎么回事?当年,肯尼迪说我们一定要把人送上月球,并且带回来,这不是一个伟大的计划吗?你注意,登月计划并非重大突破。因为在肯尼迪宣布登月计划之前,加加林都已经绕着地球飞行了,所有实现登月计划所需要的踏脚石都已经出现。在这种时候,你会发现计划是有用的。当大家看清楚了方向,找到了足够多的踏脚石以后,我们在短期之内集中力量去完成一件事,这是没有问题的。所以,这本书的作者一再强调,说他的目的绝对不是要颠覆计划,也不是要颠覆目标,而是要告诉大家:很多事情是不能被计划的,计划甚至会带来副作用,因为目标具有欺骗性。

04

1889年,日本有一家小小的公司注册成立了,它的目标是卖日本纸牌,属于娱乐业。这家公司叫任天堂。后来日本纸牌业有起有落,这家公司为了生存,开过情侣酒店、卖过米饭、生产过玩具,直到最后设计了一款游戏,叫作超级马里奥,这就是我们今天所熟悉的任天堂的发展过程。所以,重要的不是你在几十年前就预知了自己今后会成为一个从事人工智能的,或者从事游戏业、开连锁门店的大佬,有趣性算法才是人生的激情所在。

05

在这个过程中,他们发现仅靠自己来筛选图片,速度太慢,于是他们把这个平台开放给网友们来玩,让网友们可以挑选他们喜欢的图片,进行结合。这下图片数量就变多了。这个研究是在2006年的时候做的,人们随机地根据图片的“基因”进行结合,经过数百代的进化之后,我们可以看一下,人们“繁育”出了什么样的图形。

06

所以,这件事情给了他们一个特别大的启发,就是目标函数不完美。什么是目标函数?学过数学的人都知道,有一个词叫目标函数,目标函数是一种衡量目标实现进度的方法。“因此,目标函数的优化便意味着我们正在朝着目标靠近。但问题在于,将不断提高的分数与学生正在掌握学科知识画等号并不完全正确。因为向目标靠近的过程,可能并不会增加目标函数的值,哪怕我们确实在向目标靠近。”

07

“这种困境听起来令人费解,为何目标函数不能表明人们正朝着正确的方向前进呢?这是因为,目标函数(或任何衡量进步的其他标准)必然是不完美的,毕竟这些衡量标准的提出者是不完美的人类。一个典型且被普遍接受的目标函数类型,不外乎是将当前的状态直接与最终的目标进行比较。当前状态与最终目标的相似度越高,我们赋予目标函数的值就越高。但这种常见的比较方法,反映了一个经验法则,即当你走到岔路口时,最好选择通往预期目的地的那条路。”

08

基于图片生成网站的研究,这群ChatGPT的科学家突然想到了一个方法:我只给这个机器人做一个设定,就是你尽量做有趣的事,我对这个机器人就这一个要求。那什么是有趣的事呢?不重复的事就是有趣的事。这个机器人一开始肯定是乱走的,不停撞墙,撞左边,撞右边。当它撞了很多次墙以后,它会发现,总是撞墙一点都不有趣,它需要探索一个不撞墙的方法。神奇的是,它学会了走出这个迷宫。人们没有给它走出迷宫的指令,但是它学会走出了迷宫,因为走出迷宫更有趣。

可借鉴执行优化

在这本书正文的最后部分,作者说:“当然,我们不能说这些方法已经解决了人类面临的所有重大问题。我们的教育体系仍称不上完美;科研投资本身,也永远不会成为一个科学的过程;自然进化仍然存在有待解决的谜团;人工智能仍然是一个看似遥不可及的目标。但是,尽管这些挑战仍然存在,我们希望诸位读者和我们一样,对非目标思维如何改变我们对所有这些问题的看法感到兴奋。也许这种解放性的思维,可以帮助我们向前迈进,它可能正是我们需要的踏脚石。”这是一种思维方式的踏脚石。

基于图片生成网站的研究,这群ChatGPT的科学家突然想到了一个方法:我只给这个机器人做一个设定,就是你尽量做有趣的事,我对这个机器人就这一个要求。那什么是有趣的事呢?不重复的事就是有趣的事。这个机器人一开始肯定是乱走的,不停撞墙,撞左边,撞右边。当它撞了很多次墙以后,它会发现,总是撞墙一点都不有趣,它需要探索一个不撞墙的方法。神奇的是,它学会了走出这个迷宫。人们没有给它走出迷宫的指令,但是它学会走出了迷宫,因为走出迷宫更有趣。

这个事跟我们普通人有什么关系呢?这是一个哲学意义上的改变:你的人生未来会发生什么事,或者你的孩子未来会发生什么事,都是未知的,你的计划往往会成为阻碍。短期的目标是可以计划的,比如考试考得好,这种目标还几乎可以计划,但是你未来真的会成为一个什么样的人,是没法计划的,甚至计划会成为你的阻碍。我们要成为一个寻宝者,抱着寻宝者心态,随时对有趣性、有激情的东西敏感。这时候,我们才能够收集一个又一个的踏脚石,人生才能够不断地向上走。所以,人生的发展并非是一个得偿所愿的过程,而是不断发现更多可能的过程。

在个别的事情上,大家不愿意放弃目标感,放弃委员会的决策,放弃投票,这是为什么呢?因为它会带来深深的恐惧感,它会让我们觉得没有方向,觉得钱白扔了。作者为了抚平大家的恐惧,他说:“只要正视一个简单的事实,就可以再次让我们克服迷失方向的恐惧感。我们不需要通过设置目标来实现伟大的事业;不需要追求最佳的表现或完美的准确性,也能够寻得惊人的发现。就像我们在本书第五章中舍目标而取新奇性那样,放弃目标也并不意味着我们没有任何原则。我们只是开始运用不同的原则,以期更好地反映发现和探索的真正运作方式。”

有人说,是竞争使得我们不断地前进。不对,不是竞争。避免竞争,才是我们进化的动力。进化不是来自竞争,而是来自避免竞争。也就是说,我们人类这一支,一路过来,从来都是竞争的失败者。为什么敢这么说?因为所有竞争的成功者都获得了一个生态位,只要你在这个领域中竞争成功了,你就占有了这个生态位,而只有那些没有获得生态位的生物,才会去探索更有趣的方法。于是,我们一步一步进化到了今天,是避免竞争的动力让我们不断地搜索空间的可能性。我们做爬行动物的时候几乎是两维的,就是在平面上爬行就好了,现在我们需要站起来;站起来还不够,还需要坐飞机;飞机还不够,还需要坐火箭,坐宇宙飞船到天上去,人真是能上天了。这就是探索整个空间的可能性。

我们用作者的话来总结,他说:“当梦想家都对陈旧的愿景感到厌倦时,当不求回报的期望的灰烬沉淀在不可逾越的未来之上时,只有一种理性的光芒可以穿透黑暗:为了实现我们的最至高无上的目标,我们首先必须心甘情愿地抛弃它们。”人是可以有目标的,组织也是可以有目标的,我个人的感觉是,如果这个目标是一个比较虚无的、具有感召力的目标,反而是好的。我们要实现的是一个伟大的目标,而且这个目标没有具体的指标,那么这个目标反而是好的。但如果这些伟大的目标变成了具体的指标,就有可能会给我们带来误导。像尼采所倡导的,你应该活成一个超人,你应该活出你人生的意义和使命,这种目标没有任何问题,因为它是“空泛”的感召。但是假如你给自己设定的目标是一年至少要赚一百万,那这个目标很有可能会阻碍你整个人生的发展。

那怎么衡量呢?怎么衡量这个学校好不好呢?我们有大量的经费要分配,怎么办?作者给的建议是采取匿名评估、遵循随机性的方法。老师不需要完成教委指派的指标,他给出的办法是在参评的时候,教师自己来总结教学特色,自己来写教学方式,自己总结一些值得一提的案例,没有条条框框的限制,让教师自己写,写完以后提交到委员会、教育部门,教育部门根据他们提交的成果匿名打分抽查。这样做的好处是什么?他逼着你做一个正常的好人。

我读了很多讲民国时期教育的书,民国的时候有很多战乱,西南联大的师生颠沛流离,当时怎么会产生那么多大师呢?因为那个时候,教他们的也是大师,这些大师没有指标,想怎么教就怎么教。你去看那些大师的教学方法,就会觉得很奇怪,比如著名的地理学大师侯仁之先生,要考试的时候,他的学生们很紧张,不知道地理考试考什么,侯仁之先生一进来,说写一下你们来自哪个地方,分别有什么特产,就这么一个考试,学生们都觉得莫名其妙,但是他有他的想法,他有他的喜好。如果放在我们今天,你会觉得这些大师都不合格,这些人的教育方法全部不行,这都没法当老师,但是它符合多样性、随机性,符合热情、有趣性的算法。这是对于教育的建议,就是匿名评估,遵循随机性。注意,不是不评估,而是换了一种方式,引入随机性的评估。

📋 书中案例
案例 1

比如英属印度时期,印度毒蛇泛滥,政府说,公民每上交一条毒蛇,就奖励一笔报酬。结果是大量的老百姓养毒蛇,然后把毒蛇交给政府,因为这样赚钱多。后来政府一看说不行,说这毒蛇收不完,不收了。政府不收毒蛇了,大家就把毒蛇扔到马路上,毒蛇一下子变得更多了,这是一个非常经典的坎贝尔定律的体现。还有一个地方发现了恐龙骨头,科学家们让村民们收集碎骨片,说发现恐龙碎骨片就送过来,我们按照片数来给钱,你给一个小骨片,我们就给你多少钱。听起来好像没什么问题吧?结果当村民找到一个大块的恐龙骨时,他一定要砸得碎碎的再去交,因为按片数收费。所以,当我们给出一个特别简单的指标的时候,就会引发更加糟糕的、始料未及的结果。世界是复杂的,而指标是极其简单的。教育所面临的就是这个问题。

案例 2

我之前讲领导力的时候,其中有一章叫作“目标管理”。我们会觉得,如果企业没有目标,该怎么管理?企业一定要有一个目标,我们才能管理。我曾经听过一位大师讲课,他说,假设你来到了一个城市,要去你的朋友家,现在你手里没有地图,或者你拿了一张错误的地图,拿了另外一个城市的地图,请问你怎么能够去你朋友家?我当时一听,就觉得目标太重要了,没有目标的话,你根本就到不了别人家里。现在想想,这是一个错误的机械类比。原因是什么呢?因为朋友家已经确定了,我们知道这件事情已经发生过了,而且都已经画在地图上了,在这种情况之下,我们沿着目标去做当然没问题。但是我们的人生面临的是不确定性,比如你未来十年要去哪儿,谁能够给你画一张地图呢?所以这两个东西是不能类比的。

案例 3

作者说,要听从偶然性的召唤,而非合乎逻辑的目标。因为合乎逻辑的目标无法把你导向伟大的变革,无法把你导向伟大的创新。那他是如何得出这个结论的呢?这就要谈到ChatGPT的发明过程。在做ChatGPT之前,这些年轻人在一起创业,尝试过很多人工智能的方向,但迟迟没有什么大的进展,他们有一个很有趣的想法,就是做一个图片孵化器。什么是图片孵化器呢?比如有两张图,一张图就像“父亲”,一张图就像“母亲”,比如一张图片是黑格子,另一张是白格子,让这两张图“繁育”下一代,就是根据程序自动生成一些图。两张图片怎么“繁育”下一代呢?科学家有办法,他们给这张图片赋予一些“基因”,比如形状、颜色等,相当于我们今天讲的打点。把这些基因结合以后,就生成了几十张图片,然后从这几十张图片里,再挑出10~20张作为父本和母本,然后重新结合,生成更多的图片。

案例 4

然后他们就想:假如我们给这些图片一些目标,会怎么样呢?比如,我的目标是要制作出一张埃菲尔铁塔的图片,那么我在选择父本和母本的时候,就选择那些跟埃菲尔铁塔更像的图,看看会怎么样。结果没想到,由于目标的干扰(他们加入了很多可能性的判断,觉得某张图更像埃菲尔铁塔),他们没有生成埃菲尔铁塔的图片。我不知道大家听明白了没有,就是当你刻意地认为,这些图片将来会生成埃菲尔铁塔图片的时候,反而会离这个目标越来越远。

案例 5

“如果我们持续这样的新奇性搜索过程,机器人最终会不会发现一个能破除整个迷宫的行为,哪怕走出迷宫并不是它的目标?实验结果表明,答案是肯定的——如果我们运行一段时间的新奇性搜索算法,计算机将持续产生驱动机器人通过整个迷宫的行为。这个实验结果很有趣,因为没有人编写让机器人顺利通过迷宫的程序。更重要的是,穿越迷宫从来都不是一个既定目标,该程序甚至不知道目标的存在。”

案例 6

这个事跟我们普通人有什么关系呢?这是一个哲学意义上的改变:你的人生未来会发生什么事,或者你的孩子未来会发生什么事,都是未知的,你的计划往往会成为阻碍。短期的目标是可以计划的,比如考试考得好,这种目标还几乎可以计划,但是你未来真的会成为一个什么样的人,是没法计划的,甚至计划会成为你的阻碍。我们要成为一个寻宝者,抱着寻宝者心态,随时对有趣性、有激情的东西敏感。这时候,我们才能够收集一个又一个的踏脚石,人生才能够不断地向上走。所以,人生的发展并非是一个得偿所愿的过程,而是不断发现更多可能的过程。

← 返回书单 | 查看完整笔记 →