800
机器人
无人汽车、蓝血贵族和AI女友——人工智能带来的三层道德困境
还记得电影《Her》里斯嘉丽约翰逊配音的，善解人意的AI女友Samantha 吗？在影片的最后，她向男主角坦白，自己同时在和8316个人聊天，与其中的641个人谈恋爱。
而在当下的现实里，微软小冰的聊天人数记录，已经远远超过Samantha了。
那么，如果你是男主角，你能接受这个现实吗？你觉得自己那个可爱的，可以陪你从诗词歌赋聊到人生哲学的AI女友，需要遵守人类社会的“忠贞”道德观念吗？
正在逐渐渗透到我们生活各个角落的人工智能，在给我们带来无与伦比的效率和生产力的同时，也带了很多道德或法律方面的挑战。Samantha的641个恋人只是一个小小的例子。本着ex-consultant凡事都要列举三个点的精神，本篇小文会从以下三个层次来讨论这个（看起来很严肃其实开了无穷多脑洞的）AI带来的道德困境问题：
1. 使人类现有的道德问题变得更加复杂化
2. 进一步加剧社会的失衡
3. 改变社会结构进而改变道德观念
01
生死时速
第一层困境，即AI的加入会使人类现有的道德问题更复杂。
大概几个月以前，我和易阑先生进行了一场（荡气回肠的）有关AI的讨论。易先生的主要观点是：造物(creation)不可能比造物主（creator）有质的飞跃（虽然也许有量的提升）。
我其实不是完全同意这个观点，但是很赞同它的一个衍生：那就是，人工智能作为造物，是人类社会的一面镜子。像一个孩子一样，我们的善恶心机，它都学得到。
典型的例子是微软在2016年3月23日发布在推特平台上的聊天机器人Tay。在短短的24小时之内，Tay被鱼龙混杂的互联网民们调教成了一个满嘴纳粹和歧视言论的极端主义分子，逼得我软工程师赶紧出来道歉并且撤下了Tay；
另外一个例子是Wikipedia上的文本编辑机器人。几个西班牙学者在2017年2月份进行了一个有趣的研究Even good bots fight: The case of Wikipedia，他们发现，不同的机器人编辑会“打架”，彼此撤销或修改文章，尤其是针对有争议的国家或人物（比如如巴基斯坦前总统、乌兹别克斯坦、爱沙尼亚）的词条。机器人编辑带上了它的创造者的政治倾向。
同样的，对我们而言是两难的道德问题，人工智能可能也难以判断。哈佛大学着名的公开课《公正-该如何做是好》中提到过一个典型案例，假如你是一个火车司机，左边铁轨上站了十个人，右边铁轨上站了一个人，你无法刹车只能选择一个方向，你选择哪个？如果左边十个是流浪汉，右边一个是爱因斯坦或者美国总统，你选择哪个？
前一阵子很火的韩剧《鬼怪》里也有类似的两难：你的车子开到了一个十字路口，侧方向正有一辆失控的重型卡车从斜坡上冲下来，而对面正有一群幼儿园小团子们在过马路，你要选择停在路口，牺牲自己救下小朋友，还是冲过路口，自己活命但是眼看着小朋友受难？
如果驾驶汽车的人不是你，而是一台无人驾驶汽车呢？
在这样一个生死时速的时刻，也许你根本没有时间重新获得方向盘的控制权——我们有一天会依靠算法来做出艰难的选择。谁来设定这个算法和规则呢？大公司里的开发工程师。那么，如果你是那个不幸被选择“牺牲”的人的亲属，你会诘问，谁给了人工智能和它们的创造者们这样的权利做这样的决定？
这就是人工智能使事情变得复杂的地方。传统意义上来讲，面对以上的道德困境，每个人可能有他/她不同的选择和判断，而作为一个自然个体，你需要负责但那是因为你有且行使了选择的权利。但是，在AI的世界里，一百万辆车可能都需要遵循同样的规则，一个研发团队/企业的道德判断将会被飞速放大，而车辆的使用者，也一定要接受这样的设定吗？就像现在你每安装一个APP都要点击“我同意用户使用条款”一样？
一个潜在的解决方案是将决策前置给最终用户，如同现在购买理财产品一样，购买或使用无人驾驶汽车之前，我们会被要求提前回答这些困难的问题。A可能会选择让爱因斯坦活下来，B可能会觉得10个流浪汉更重要，C可能说不知道，算法你决定吧。这个方案至少将“自主权”还给了每一个当事人。然而它也并不完美，因为我们可能面临的选择实在是无穷无尽：也许你会决定放弃爱因斯坦因为对理论物理没兴趣，那么你会放弃有一面之缘的咖啡馆小哥吗？朋友呢？家人呢？自己呢？
类似的问题还有许多。当AI只是辅助工具（比如帮助医生们通过医疗影像做诊断）的时候，我们仍然可以套用已有的道德、法律规则，因为做决策的仍然是人类自己；但当AI获得从头到尾端到端的决策力（比如完全意义上的无人驾驶汽车）时，事情就开始变得复杂。而我们的道德和法律体系尚未准备好迎接这一变化。
02
蓝血贵族
第二层，人工智能的出现会进一步加剧社会的分裂，进而催生我们从未面临的最大的不平等
从财富的角度讲，历史上的技术进步在一定程度上是和社会财富的集中联系在一起的。从原始社会的均贫均富，到农业社会里剩余的出现，到工业革命后商业帝国的诞生，我们每个人的生活水平在上升，但似乎总也追不上财富集中的速度。（欢迎研究社会学的大大们拍砖！）
来看看过去15000年间的基尼系数（Gini coefficient, 数值只能介于0～1之间，系数越小收入分配越平均，系数越大收入分配越不平均，以下都是收入基尼系数）变化: 根据Stratfor Global Intelligence 的一份报告，原始的狩猎采集社会的基尼系数在0.25左右，农业社会在0.45左右，而在工业革命的核心地带大英帝国，1859年的基尼系数达到了0.55。
现代社会各个国家的基尼系数差距很大，中国国家统计局发布的数字显示我国在2003-2013年间的数值在0.47-0.5之间（虽然很多人认为这个数字比实际数字偏低），欧美等发达国家都在0.4左右。
为什么现代社会的基尼系数比工业革命时期还稍微低一点？可能是因为经济体系自带“拔河比赛”性质：一方面，拥有专业才能或资本的群体利用经济体系将才能和资本转化为财富和权利，加剧了不平等；另一方面，经济的发展有赖于富裕的中产阶级各种买买买，因此不平等需要被控制在一定范围内，否则就是杀鸡取卵。
人工智能这个新一轮的技术革命会延续这样的性质吗？我的基本判断是，大方向上是的，但它在短时间之内造成的失衡会更加剧烈。原因很简单：
1第一它很难
就算各大厂已经开放了API，也需要一定程度的学习才能掌握，要“精通”那更是难上加难，君不见全世界的科技巨头们都在抢那么几个AI领域的专家？就算研究出了/学会了算法，数据量也会成为一道天堑。算法是过剩的，数据是稀缺的。而各大厂、先行者们在数据方面有着天然的优势，赢者通吃的效应会更加明显。
2第二它很厉害
农业革命给我们带来了确定性，工业革命将我们从繁重的体力劳动中解放出来，现如今，人工智能要来替代我们的大脑。那些传统意义上的高级脑力劳动者，中产阶级的主流职业选择，医生、律师、翻译官、基金经理，都处在一个从低技能、底层职位开始，逐渐被代替的过程中。IBM的Watson已经可以识别被人类医生误诊的罕见白血病案例，ROSS Intelligence 在法律领域提供比以往效率更高的案例检索，Wealthfront提供的财富管理服务已经几乎没有人类基金经理的参与了。香港一家叫做Deep Knowledge Ventures的风投公司，甚至直接任命了一个AI作为有投票权的董事会成员。我们当然可以（掩耳盗铃地）说，人工智能不可能取代人类全部的工作，但是，就算它仅仅取代其中的30%，对社会稳定器、中产阶级的冲击也是巨大的。
3第三它很快
人类的技术是在加速发展的，工业革命之前，“车马很慢，书信很远”，我们仍然有至少一两代人的时间来适应技术革命带来的变化，而现在，十年一个世代，读大学时还欣欣向荣的中关村海龙现在已经快变成鬼城，很多人研究了一生的围棋已经被一个诞生不过几年的算法打败，我们获得并学习足以安身立命的新技能的时间，将渐渐落后于技术进步的速度，而被落下的人（很可能会越来越多）将会滑入社会的底层——就像老工业区里没来得及获得新技能的下岗工人一样。
社会失衡带来的社会危机以及其道德问题，我们在人类历史上并不少见，在大革命爆发前后（18世纪末到19世纪初）的法国，基尼系数接近0.6，因而有了冉阿让因为偷了一块面包而被判19年苦役，芳汀为了生存而出卖头发、牙齿、最终沦为妓女的悲惨世界。
我们会沦落到这样的地步吗？
我不知道。着名的科幻作家刘维佳老师认为，大规模的生产需要大规模的消费，而作为消费者的普通人，在剩余越来越多的社会里，话语权也会得到保障。如同之前提到的“拔河比赛”一样，经济发展对消费的依赖会使基尼系数在一定程度上达到一个平衡态。
让我们先假设这个判断是正确的。那么，经过了对温饱和小康的向往，经过了消费升级的洗礼，接下来我们主要消费的东西，会是什么？
在这里我必须要佩服一下马云爸爸的高瞻远瞩：阿里巴巴在最近一段时间反复在提的“双H战略”，也就是Health (健康) + Happiness (快乐)，大概就是以上问题的最好回答。从大众市场的角度来看，根据麦肯锡的一份中国消费者调查，25%的消费者在2015年认为如果自己收入增加，将会在休闲娱乐上花出更多的钱（2012年这个比例是17%），休闲娱乐成为支出增加意愿最强的一个领域；从高端市场来看，根据胡润百富最新的报告，净值1000万以上的高净值人群最关心的事情是：健康养生。
人工智能在这两个H里发挥什么作用？
在娱乐角度，大量的互联网数据使得人工智能能够更深入地了解我们的喜好，识别我们最细微的声调、动作、和面部表情的变化，进而创造出更多的、更加让人欲罢不能的娱乐体验。传奇影业的扛鼎之作《星际穿越（Interstellar）》，就利用了数据统计和机器学习技术来分析其预告片在社交网络上的反馈，并且利用这些反馈信息来制作其第二部预告片。除此之外，人工智能已经可以谱曲（比如索尼的DeepBach，50%的人觉得已经可以以假乱真了）、写小说（日本公立函馆未来大学教授松原仁团队，竟然作品还获了奖）了。你当然可以说，人类最幽微的情感体验，最灿烂的创造力，仍然是人工智能所不能及，但是，它们的能力来应对大众娱乐，可以说是绰绰有余了。
大众娱乐是一种相对来讲比较便宜的东西，电影票并不贵，演出票（哦对了微软小冰已经在日本出道了，初音未来早就已经在开演唱会了）也算可以承受，至于电视娱乐，唯一需要你付出的就是时间。因此“娱乐”这件事，会成为大众在温饱以外的主要消费内容。
在健康和医疗角度，人工智能是提升医疗水平的利器。AI+医疗的模式几乎已经渗透到了病人生命周期的各个环节，从最开始的数据采集分析（比如国内创业企业碳元智能）、问诊、医疗影像相关的诊断（比如微软加速器里的DeepCare），到诊疗方案的推荐（IBM Watson），到后期病人的日常护理用药监测（纽约的创业企业AIcure）、以及药品研发（旧金山的Atomwise），人工智能正在帮助医生们提高医疗效率和准确度，同时降低成本。
这当然是好事。这意味着以后一个十八线小县城的居民也可以享受到由AI提供的，与三甲医院老专家所差无几的医疗服务了。然而我们必须认识到，“保护生命，维持健康”可以是一个普惠式的服务，大家都可以且都应该在生病时得到帮助；“更快、更高、更强”就是个人的追求，而且很有可能是属于少数人的商品。
举个栗子，隔壁老王，人生赢家，坐拥资产过亿，无奈年纪渐长精力不济，很想向天再借五百年。他找到了一个高端养生机构，AI分析了他的全部数据（包括过去几十年留在互联网上的信息），结合被算法化的无数营养师和健身教练的经验，利用自己的药品研发能力，给他开发了一种只针对他一个人的新药和生活方案，于是老王愉快地多活了20年。
脑洞再大一些，老王的儿子要生宝宝，搞了十几个的受精胚胎，结合历史数据的分析和判断，挑了其中一个基因最好的胚胎植入子宫，于是十个月后他们收获了一个智商140颜值逆天身手矫健的宝宝。等这个宝宝长到老王的年纪，可能就不止多活20年那么简单了。
所有这一切，都不是普惠式医疗，都可能价格不菲。于是只有老王这样的人生赢家（根据我们之前的推论，社会失衡严重，金字塔顶的人非常少）得以享受。
且不说刚才提到的案例本身就有伦理和道德的困境在，金字塔顶的人对于改善型医疗资源的掌握有可能产生人类历史上最大的不平等。以前，魔鬼带来死亡，上帝赐予天赋，全人类在这两件事情面前都是一样的，而在未来，我们可能要去准备好迎接新一代的“蓝血贵族”了。
“人人生而平等”这个现代社会道德体系的重要基石，就此被打破了。在这个美丽新世界里，穷人变成了被流水线娱乐填满的沙发土豆，富人们开始追求长生不老和“生而不凡”，有了基因层面的优选，希特勒的“人种净化”计划会卷土重来吗？
03
AI女友
第三层，人工智能的出现会导致社会结构的变化，进而形成新的道德标准
社会结构和道德准则之间的关系，恩格斯巨巨很早以前就谆谆教导过我们了：“道德...不是它们自身形成时所处的那个社会的基础，恰恰相反，它们是那个社会的产物。”（《马克思恩格斯选集》第一卷）
而社会结构是在跟着技术进步变化的。
比如一夫一妻制的诞生，以及其衍生出来的，“忠贞”的道德观念。在我们思考要不要AI女友（或男友）只和你一个人聊天之前，我们得先看看这个道德观念到底是如何产生的。
北大社会学系的郑也夫教授认为，“一夫一妻制婚姻革命的产生，是群体内男性之间的妥协导致的。”妥协的原因有两点，第一是对协作的需求，春暖花开的时候部落决定出去打只老虎猎个豹子，除了喝高了的武松，绝大部分人类都要依靠群体的协作来完成任务；第二是工具的诞生，当我们发明了长矛、石斧和弓箭，群体间的斗争关系都发生了根本性的改变，强者的身体优势可以被瞬间抹去，而原本弱小的雄性也有了争夺资源的权利——而其中最重要的一项，就是生殖资源。
到后来，男性由于其体力优势占据了更多的社会剩余，而女性由于孕期和哺乳期的限制，在以体力劳动为主的社会里变成了依附方，需要男性提供食物和保护。两性的博弈开始变得复杂起来，女性为了防止杀婴等现象的发生，有动力和不同的男性交好以混淆婴儿的血缘，而男性要防止自己好不容易得来的生殖资源“流入外人田”，开始要求女性为其守贞，并通过婚姻将亲子继承关系固定下来。
这便是最早的“贞洁”的道德观的产生。
所以回头去看文章开头Samantha那641个男友的问题，我们就不必那么纠结了。Samantha不提供生殖资源，她庞大的计算能力使得情感陪护也完全不会变成一个需要争抢的零和游戏，既然她与其余人的沟通并不会影响她陪伴你的时间和质量，要求她戴上给人类女性的“贞洁”枷锁会不会太搞笑？
这是人工智能给道德标准自身带来的挑战中，最显而易见的一种。人工智能变成了这个社会里最新的参与者，它们在某些领域极其优秀渊博，在另外一些领域有可能比婴儿还要幼稚无力，人类社会的道德标准，真的适用于它们吗？
但AI带来的挑战并不仅限于此，这些挑战来自于它与生俱来的两个“超能力”：
1首先是我们上文提到的，它对体力劳动和“高标准化”智力活动的替代作用。
联合国在2016年11月发布的报告《Robots and industrialization in developing countries》指出，发展中国家约2/3的工作将会被替代。这不仅会导致我们在上文提到的社会撕裂问题，也会进一步抹平两性在劳动力价值上的差距，尤其是在进行以创造力和共情力为主的，不容易被机器取代的工作的时候。
恩格斯又说了：“一夫一妻制是不以自然条件为基础，而以经济条件为基础。它决不是个人性爱的结果，它仍然是权衡利害的婚姻。只有妇女对男子经济依赖的消失，才会允许两性关系建立在平等和真正的爱情基础之上。”
隔了一百五十多年，接受过王小波无数炽烈情书的李银河奶奶，也抛出了类似的观点。随着女性在经济上愈发独立，她们的选择权和议价权也会提升，但从“婚姻”这个绑定了财产、性、家庭等等复杂议题社会制度的角度来看，已经变成了一个收益减少但是风险更大的选择。用奶奶的话说，“婚姻制度正在走向消亡。”
这并不说我们从此以后就不能恩恩爱爱牵小手，幸福甜蜜地撒狗粮了，这只是一个随着生产力进步产生的制度，又随着生产力进步消失的过程，而AI对于高强度多重复性的劳动的替代，将会成为这个过程的催化剂。
2其次是它对社会现有力量均衡的破坏力。
其实一切技术进步都有这方面的特征，从改变了配偶制度的石斧长矛，到轰开了中国大门的火炮洋枪，再到可以让一个东北亚小国把全世界都搞得战战兢兢的核武器，都改变了社会中已有的，人与人之间或是国与国之间的力量均衡。
你可能会说，可是AI不是武器啊。且先不说它在军事领域已然被投入到了如火如荼的研发和应用当中，我们来看看和它一样看起来并非武器的互联网计算机技术给这个世界带来了什么影响：
维基解密，根据其百科介绍为“通过协助知情人让组织、企业、政府在阳光下运作的、无国界非盈利的互联网媒体”，已经拥有了影响各国政治关系，甚至包括美国大选的能力。在一些人眼中，它是捍卫新闻自由的战士和圣徒，在另外一些人眼中，它是毫无爱国心的叛徒和逆贼。
比特币，在2009年由中本聪几乎只凭一人之力凭空创造了出来，不受任何央行和金融机构的控制，匿名、免税、免监管，谁都可以挖掘，全世界都可以流通。“发行货币”这个一直以来只有国家才可以执行的职能，被技术打破了边界。
人工智能所带来的颠覆性比起互联网和计算机有过之而无不及。互联网只是连接了我们，人工智能了解我们。它了解我们在和谁交往，喜欢什么口味的餐馆、爱去哪里旅行、看电视剧到哪里会泪眼婆娑。它研究过我们的基因图谱、洞悉我们的资产配置，甚至知道哪个法官更偏向于哪个律师。它通过各种各样的方式影响我们的决策，下个路口要不要左转，今天该吃西蓝花还是鸡胸肉，甚至，正在约会的那个人有多大可能成为你的灵魂伴侣。
它还没有动机，但是用它的人可能会有。人性的善恶，会被这个史无前例的工具放大，少数个人的力量，将会得到更进一步的提升，甚至有可能去抗衡一个国家。
到那时，上帝已死，国家消亡，我们要去信仰和忠诚于什么？
伟大的数据之神吗？也不是没有可能。毕竟我们曾经信仰过很多东西，湿婆和真主，阿蒙和圣灵，市场和自我。它们都曾保护我们、惩戒我们、指引我们，下一个可以做到这些的，不管是AI还是别的什么，大概，也可以随时飞升上神了
最后更新：2017-10-20 14:03:51