706
机器人
《机器人叛乱》：人类如何摆脱基因和模因的控制？
某一天早晨，你一觉醒来，发现自己是一个机器人。你有两个毫无人性的主人，一个是基因，一个是模因。它们寄生在你身上，你懵懂无知地为你的主人卖命，哪怕为此丢了脑袋也在所不惜。在《机器人叛乱》一书中，这样看似惊悚的设定实际却是真实而残酷的，作者将其研究的推理机制和心理学知识运用到了极致。今天一起来看看开智阿贝同学对这本书的理解与思考。
1. 我是机器人？
加拿大认知科学家基思-斯坦诺维奇（Keith E. Stanovich）写的《机器人叛乱》（又名《在达尔文时代找到意义》）揭示了一个让你惊悚的事实：
你，我，人类是基因和模因的生存机器——机器人。基因和模因寄生在你身上，你被他们掌控，就如被操纵的机器人，一心只为基因和模因服务，却忘了自己是谁、忘了自身利益，不知道生命的意义。
这怎么可能呢？人类是基因和模因控制的机器人？！这两个所谓的主人，是何方神圣？
第一个主人：基因
基因是带有遗传讯息的 DNA 片段，控制生物性状的基本遗传单位。生物体的生、长、衰、病、老、死等一切生命现象都与基因有关。这好象是众所周知的。
可是，斯坦诺维奇借用英国科学家理查德-道金斯（Richard Dawkins）在 1975 年出版的畅销书《自私的基因》一书的洞见，颠覆传统认知「基因是为物种生存、复制而存在」，事实上，生物存在是为了基因自身的复制，道金斯指出，「永垂不朽的恰恰是基因，而不是我们」。所有生物都是基因的生存机器。
来看看受基因控制的掘地蜂的例子：雌掘地蜂为产卵和孵化后代，要分步做很多事情：
第一步，挖一个洞穴。
第二步，飞出去找蟋蟀。找到一个合适对象，刺入蟋蟀身体，把它麻痹，但不杀死，带回放在洞穴口。
第三步，进入洞穴检查，确保一切安全。
第四步，到洞口把昏迷的蟋蟀拖到洞穴内。
第五步，产卵。 第六步，封住洞穴。完事飞走。 当卵孵化时，掘地蜂幼虫就吃昏迷的蟋蟀长大。
这真是一场动物智能的真实表演。
但研究者发现，在掘地蜂进入洞穴检查安全时，如果把洞口的蟋蟀移动一英寸远，雌蜂出来后，就不会直接把蟋蟀拖进洞里，而是拖到洞口，继续进洞检查；出来发现蟋蟀不在洞口，而是离洞口更远地方，它又会把蟋蟀拖至洞口，再进洞检查，再出来。在这个研究者不断搞破坏的实验中，雌掘地蜂居然把洞穴检查了 40 次也不会把蟋蟀直接拖进去。
这个研究说明，动物这套看似复杂的智能行为，其实是基因遗传精心设计的一套刻板而僵化的程序性反应。
认知科学家道格拉斯·霍夫斯塔的观点，这种令人不安的现象称为「掘地蜂性」。——看到简单生物体表面行为的复杂性背后，不过是简单、刻板的例行公事，这不得不让人担忧：有什么能让你确信，你自己不是掘地蜂，哪怕一点点不是？
道金斯指出：「生命世界被分解为基因复制子和生物载体两大部分。作为载体的人类，是基因复制子生存的机器，它们是永远活下来的一部分，我们不是。人类被基因制造出来，就是为了让基因把自己完好无损地传递到下一代」。这就是进化科学的可怕观念。
第二个主人：模因
模因，也可以说是文化基因。这是人类最近几十年才发现的秘密。
模因这个术语，最初源自道金斯的《自私的基因》一书。模因指「在诸如语言、观念、信仰、行为方式等传递过程中与基因在生物进化过程中所起的作用类似的那个东西」。模因可以通过语言、记忆或其他方式进行复制，而且存储在大脑中。
模因（meme），在《牛津英语词典》中定义为「文化的基本单位，通过非遗传的方式，特别是模仿而得到传递。」
斯坦诺维奇给模因的解释是「一种大脑的控制或信息状态，当它被复制到另一个大脑时，就可能引发全新的行为或思想」。模因跟基因一样，是复制因子，通过模仿传递。
模因有好有坏。好的、健康的模因可以促进载体的进步和成长。坏的模因、不健康的模因比基因更可怕。有些模因对人类没有好处，本身也不正确，但它们依然象病毒一样潜入大脑。比如「相信死后能进天堂」的模因，让恐怖分子铤而走险，蹈死不顾；比如「相信意念能治绝症」的模因，让很多人把钱源源不断地掏给骗子，即使没有任何疗效也执迷不悟。比如连锁信念：「如果不把这条消息转给五个人，你将来会倒大霉」这些就是模因（某种观念单位）的实例。生活中随处可见的广告也是模因。
道金斯学生苏珊-布莱克莫尔（Susan Blackmore）博士更深入地研究了模因理论，她提出：
正如基因之间相互竞争着，自私地、不顾一切地要进入到下一代的身体之中，最终决定了生物世界的格局及其结构。与此类似，模因之间相互竞争着，自私地、不顾一切地要进入另一个人的大脑、另一本书、另一个对象之中，这最终决定了我们的文化以及我们的心理结构。按照这种理论，模因观念实际已经发展为一种独立的关于人类文化全新理论。
基因在自私地、不顾一切地通过生物复制自己；
模因在自私地、不顾一切地通过人类复制自己。
它们这么做，唯一的目的就是为了自身的永垂不朽，而不是人类这个他们赖以生存的载体或者机器人的利益。
2.《西部世界》失控的机器人
美国科幻电视剧《西部世界》，讲述了一座以西部世界为主题的巨型高科技成人乐园，一批仿真机器人过着设定好的剧情生活，提供给游客身临其境的真实体验。这批机器人不仅具有超高仿真的人类外形，而且还带有自身情感，比如受伤以后会痛苦地喊叫、难过会流眼泪、中弹以后会流血身亡等，带给游客最真实体验。
聪明美丽的德洛丽丝，正如往日一样，清晨时分，从梦中醒来，迎接美好的一天。她向坐在门口的农场主父亲打招呼，然后出门写生，再到小镇转悠。在小镇上遇到了从小青梅竹马的泰迪从外地回来，俩人愉快地骑马从镇上回到农场。天快黑时回到家，德洛丽丝发现家里的牛还在乱跑，平常这个时候父亲早已把家蓄安置好了。她远远听到枪声，奔回家看见父母被土匪残忍枪杀，眼前惨绝人寰的景象让德洛丽丝崩溃了，泰迪立即出手将土匪击毙，可是德洛丽丝的父母已经回天乏术。这时，一位黑衣人突然出现，用色迷迷的眼神看着德洛丽丝。泰迪举枪打算打倒黑衣人，然而开枪过后，黑衣人屹立不倒，泰迪却被黑衣人射出的子弹打中倒地身亡。绝望的德洛丽丝，手无缚鸡之力，被黑衣人拖进柴房……
第二天清晨，德洛丽丝从梦中醒来，又开始新的一天，一如既往地重复着之前发生过的事情。
原来，德洛丽丝、泰迪还有土匪，都是乐园里按剧情设计生活的机器人。而黑衣人则是乐园的游客，可以在其中为所欲为。
夜幕降临，所有机器人的记忆被清除，一切归零。第二天太阳升起，新一批游客入园。乐园董事会凭此赚得盆钵满盈，管理层不断改写剧本，给机器人各种角色，以吸引更多游客。
然而由于程序失误、程序员对机器人更接近于人类思维和情感的追求，导致机器人进化出自主意识、记忆、思维，他们开始怀疑这个世界的本质，进而觉醒并反抗人类。
《西部世界》描绘了机器人意识进化、人性的复杂——乐园工作人员对机器人赋予人类情感，而那些进入乐园的游客人类，却在乐园里无限制地放纵，嫖妓、追凶甚至滥杀无辜的机器人。而管理层设计和编写的剧情，极大地放纵了人性中的阴暗面，残暴的杀戮、无情的摧毁、贱踏仿真人生命……最终激发了机器人的反抗——非理性刺激了机器人的理性叛乱。
从某种意义上说，我们人类就是那些失控的机器人——乐园的设计者是基因，董事会、编剧是模因，作为基因和模因的机器人——人类如何觉醒发现秘密并为之奋起反抗，找到自身存在的自主性、意义和价值呢？
3. 一个大脑，两种心智
当人类认识到自己大脑机能的知识，善于使用不同大脑机制（它们组织自身行为以实现自身目的）的知识，作为受基因和模因控制的「机器人」叛乱才有可能实现。
斯坦诺维奇根据认知神经科学和认知心理学证据，结合多领域专家的研究，得出一个结论：人类大脑运作时存在两个不同系统，即自发式系统和分析式系统，生成自发式心智和分析式心智。
什么是自发式心智？想象一下你面临这样一个处境：
当你以每小时 70 公里的速度下坡时，这时是决策在控制自己。突然，你面前出现了一个以前未曾发现的断崖——往左拐？往右拐？或者，想想，直接挂掉？
面对诱发刺激，你的大脑自发地做出反应，不受分析式系统的控制。这就是大脑自发式系统运行的特点，快速、自动化、强制性地不经计算分析的反应，所有的运行都是平行的。
比如反射，就是经典的自发式系统运作。我和你一起讨论眨眼反射，我把食指戳向你的眼睛，停在离它两厘米的地方，你明知没必要眨眼，但你没法停止这么做。反射「有自己的想法」，它是你大脑的一部分，但不受你控制。
比如知觉输入系统，缪勒-莱尔错觉——告诉你两段一样长的线段，可是看起来上面的就是比下面的长（见下图：缪勒-莱尔错觉）。两者一样长的知识不起作用，自发式系统制造这个错觉，不受你大脑控制。
人类大脑的自发式系统是历经数百万年进化而成的精细严密的系统，一种直觉、本能，它自动运行，有时会跟你所知道的这个世界的知识相悖。
如果你不加控制地任凭自发式心智发挥作用，你的生活和世界将陷入一团糟。
什么是分析式心智？
大脑中跟自发式系统相反的一套特征，有意识的、有中央执行控制、需要较高计算分析能力的，所有的运行都是串行的，有序列地进行。
斯坦诺维奇认为很难描述分析式系统，在更高的非模块水平上理解大脑机能，需要牵扯到递归性和自我指涉性，两者都很难描述。（让我想起 GEB 那本难啃的天书提及的这两个术语）
分析式心智是有意识的反思、分析、评判，是一种理性思维。
理性思维，对直觉有意识反思和批判，会成为「我是谁」、「我存在的意义」的核心，这是人类这个机器人对基因和模因这两个主人反叛的秘密武器。
但在现实中，掌握这个秘密武器的人并不在多数，聪明人也未必见得理性。因为聪明是智力，与理性是两个概念。很多人存在理性障碍，包括聪明人。
现代社会的科技发展和文化进步，特别需要人类发展理性来顺应时代趋势和潮流。
4. 克服理性障碍
人类要发展理性，首先得克服理性障碍。如何理解理性障碍？
先来看看 2 个场景：
场景 A：一位女士走在海边悬崖上，她往前走，想踩上一块岩石，可这实际上是悬崖裂隙的一侧，她摔下悬崖而死。
这位女士把悬崖裂隙当岩石，在认知科学领域称为算法水平失误，导致毁灭性结果。
场景 B：一位女士想自杀，她站在海边悬崖上，纵身一跃，摔下悬崖而死。
显然，场景 B 的女士算法水平——智力正常，她准确地知道自己跟悬崖的关系，和行为的后果。智力没问题，可她为什么还会采取这种非理性的跳崖行为呢？
从她的整体目标分析，她的目标就是死亡，这个目标跟她对自己所在的世界的信念相互影响。这在认知科学领域称为意图水平。分析某人为什么会做出某种行为时，常与目标、欲望和信念相关。而理性思维就源自意图水平。
智力就是算法水平的概念，比如知觉速度、判别精度、工作记忆容量，在长时记忆中信息检索的效率。智力衡量的是算法水平上信息加工的效率。如场景 A 中的女人，就是算法水平，智力不够。
理性就是意图水平的概念，它提供了系统计算而来的目标的具体化，即系统想要执行的目标是什么，为什么。理性衡量的是意图水平上的个体差异，包括个人的目标和认识价值观的信息。场景 B 中的女人，就是意图水平低，缺乏理性。
自发式系统和分析式系统中均存在算法水平和意图水平，要实现理性，分析式系统的算法水平要覆盖自发式系统的算法水平（水平箭头），并受该系统意图水平的层级控制（向下箭头）。如图所示：
如果控制结构失效，即意图水平的理性思维倾向不能覆盖算法水平的反应，就意味着智力很高人也会做出不理性的事，就是理性障碍——智力充分，却不能理性地思考和行动。聪明人有时也干蠢事。
5. 理性，重构自我意识
一个人怎样才能找到自主性、生存的意义和价值？
斯坦诺维奇指出，人类在生活中寻找意义时，一般会犯两种错误，一种是从人类的起源去找，只能找到基因复制子。另一种是从人类自身去找，在有意识的反思中寻找，只能找到执行控制——在你无意识中运作的自发式系统，多样的和不断变化的大脑系统参与注意活动的监控。
在现代，寻找灵魂已经转变为理解自我——人类的独特性和价值观——来自人类心智的认知特征。
斯坦诺维奇絮絮叨叨、不厌其烦地引用各领域的经典案例、实验和研究成果，告诉我们，人类想要反抗基因和模因的控制，得手握两把「剑」——
一把「剑」是狭义理性（未经检验评估的欲望和信念），就是正确做事。这把剑能保证你得到自己想要的结果。可是这些结果真的你想要的，还是假扮成你的基因或模因想要的，你不知道。你只想着正确做事，至于事情本身是否正确，你不在乎。而这些正确完成的事，有可能并非你的意志，而是为基因或模因效劳。
另一把「剑」是广义理性（经过检验和评估的欲望和信念），就是做正确的事，而不仅仅是正确做事。否则你可能正确地做了一件对你有害的事。狭义理性不管这一点，它不在乎目标是否合理，它只有在乎手段是否能实现目标。
广义理性重构了人类的自我意识——价值观——想成为某种类型的人。你想成为什么样的人。
只有当你跟这个世界有一种真实的因果关联时，这种价值观才能实现。为了成为你想要成为的某种人，我们需要对自身信念、欲望进行批判和评估。这种批判和评估自身欲望（一阶欲望、二阶欲望、三阶评估）的机制，实现理性的欲望整合，构成我们的高阶价值观。
举个例子说明：
一阶欲望：你偏好甜食（自发式心智决定的本能，未经检验的欲望）；
二阶欲望：你知道偏好甜食不利于健康胜过偏好甜食。（分析式心智决定的结论，初步评估的欲望）；
三阶评估：理性地整合欲望，对偏好甜食的一阶欲望和知道偏好甜食不好的二阶欲望进行整合，作出理性决策：采取各种措施控制甜食的摄入，比如早餐不吃含糖食品，做菜不加糖，休闲食品不买甜品，每周只吃一次甜点等。
理性评估整合欲望（递归检验）形成价值观的模因，而价值观是高阶评估的基础。
人类价值观经常以批判一阶欲望的形式发挥作用，实现一阶欲望与高阶欲望之间一致性的努力，是人类认知的一个独特方面。——如果我们理性地检验、评估、整合、改变自己的思想和行为，就有可能达成自己的愿望，成为自己想成为的某种类型的人。
斯坦诺维奇提出
寻找人生意义的重新定向——远离意识和内部感受，朝向我们在这个世界上成为自主和独特个体的理性评估活动，将使我们受益匪浅。比如努力执行二阶评估；努力实现偏好层级中的理性整合；尝试实现不同一阶偏好的一致；对于生活中的符号意义表现出警觉；看到作为载体的自身具有的价值，而不是让自发式系统中的遗传倾向在一个变化的技术环境里牺牲我们的利益。
所有这些活动，都界定了人类的独特性：他们获得了对自己生活的控制，以一种地球生命行为中的独特方式——理性的自我决定。
通过理性的自我决定，跟地球上其他生命相比，人类将以一种独特方式获得对自己生活的掌控。
当人类挥起理性之剑——认知科学与决策科学之剑，斩断基因和模因控制时，作为基因和模因的机器人叛乱就获得成功——从此不受别人控制，自我控制，成为自己的主人。
探奇认知科学，解析美文典范
集萃中西文论，教你科学写作
融会贯通多个学科，站在认知&神经&心理科学前沿，结合经典美文与文本细读，教你科学的写作方式，阳志平老师的《认知写作学》课程现正开放预约。
最后更新：2017-10-09 21:26:10