Google的AlphaGo与李世石的对战引发了一场人工智能（AI）的大讨论。有人欢呼技术的革新，也有人对AI充满危机感。在人工智能革命特辑第一辑中，作者我们讨论了“AI 是否已经超越了人类智慧？会对人类造成多大威胁？”接下来，我们将继续与《Rolling Stone》一起探讨，人工智能对经济、政治和战争的影响，以及对待人工智能的哲学问题。

我们到底要把生活中的多少主动权交给机器呢？

如果是哪家企业能够成为机器人改变美国制造业就业形势的典型代表，那么非波音公司莫属。根据路透社的报道，波音飞机如今比90年代多生产20%的飞机，但所需工人比以往少了三分之一。在过去的一年中，波音将数百名员工换成60吨机器人。该公司表示，这些机器人的工作效率相当于人类员工的两倍，其中不合格产品还减少了三分之二。是的，自动化对企业劳动力的影响可以说是激动人心的。1998年，波音公司一年生产564架飞机，平均每架飞机雇佣217人。2015年，该公司飞机产量达到762架，平均每架飞机的员工减少至109人。最近一份白宫《年度经济报告》总结显示，机器人带来的劳动生产力提高和19世纪蒸汽机带来的增长是同一个量级。

机器人会对就业构成威胁，也可以提供协助

几乎没有经济学家会怀疑，智能机器很快将在各种各样的工作中取代人类，从快餐服务到卡车司机等等。据估计，在2000年到2015年间，将会有500万个制造业岗位会在这场革命中消失。这其中会有一部分是被分布到海外市场，而一部分则是直接被淘汰。

对于70年代起成长于硅谷的我来说，机器人入侵的直接经济后果并不止这么简单。一个朋友的父亲在弗里蒙特附近旧通用汽车工厂工作。在流水线上，他怀里飞溅着金属。借着这一份工作，他能养活整个家庭。在70年代末，通用最高峰时雇佣了6800名员工。

很遗憾，通用沉沦了。上世纪70至80年代，通用在外的信誉度极差。密歇根大学教授Jeffrey Liker在2010年的《美国人的生活》中说道：“那时有个段子说，你可以在弗里蒙特的通用汽车厂里买到任何东西——包括性、药品、烈酒、赌博……你想要的，都可以在那家工厂找到。”

不久之前，我去参观旧通用汽车厂。这家工厂如今被特斯拉收归所有，并且已经变成世界先进的自动汽车制造厂之一。工厂这一端输入巨量的铝材，那一端便输送出价值10万美元的电动汽车。特斯拉副总裁Gilbert Passin表示：

“在这里，我们制造的不是汽车，是未来。”

在今天的装配线上，有上千个机器人参与生产。一些挂在天花板上，有些则在地面输送材料；而有一些15尺高的巨型机器人，1000多磅的特斯拉汽车在它们面前就像是玩具车。然而，虽然它是世界上最高度自动化的汽车制造工厂，特斯拉每周的产量大约也只有1000辆（通用一天都能炮制出1000辆汽车）。真正令人惊讶的是：特斯拉雇佣了大约3000人。也就是说，特斯拉在制造更好的汽车的同时，平均每辆汽车所需要的人类员工也几乎是通用的三倍。这种情况看来，工厂自动化不仅没有淘汰就业岗位，反而带动了岗位增长。

那这些人都是做什么的呢？有些负责对机器人来说还是太微妙和复杂的流水线工作，比如仪表板安装；有些则负责维修机器人和所需要的工具设备。“这座工厂，是人类和机器人合作的工厂，”Passin说道，“不管是人类还是机器人，他们都负责各自擅长的工作。”换句话说 ，这不是一座自动化工厂，而是一出人类和机器人共同上演的好戏。

毫无疑问，智能机器的进步将对就业产生重大影响。一些岗位的消失将会由高科技领域创造的新职位抵消，另一些则一去不复返了。英国牛津大学2013年一份报告显示，现有的工作岗位中有接近一半将会在接下来的20年中面临被自动化淘汰的风险。美银美林最近一份报告的作者指出：

“我们正面临一个将改变我们生活和工作的方式的范式转变：近年来，破坏性技术的创新已经展现出抛物线轨迹，相信不久的将来就会到达一个顶峰。”

其实，不难看出哪些工作是会被机器人取代的：文员职位、流水线工作、卖汉堡包的。上个月的白宫《年度经济报告》预计，如果一份工作支付的酬劳不到每小时20美元，那么被自动化淘汰的几率将高达83%。除此之外，所造成的影响则比较难预测。失业和蓝领薪酬停滞不前以及教育水平低下的工人已经对美国政治产生了影响，并引发了特朗普的崛起——与日俱增的自动化只会加快这一趋势。

“这种趋势引起了很大的恐慌，”加州伯克利大学机器人学家Ken Goldberg表示：

“但是我们也应该意识到，机器人有它擅长的领域，人类同样也有不可替代的长处。所以，我们应该以二元的态度看待这个趋势，因为也许未来机器人还会帮助人类在某些领域取得进步。”

Ken Goldberg发起了一个“人类和机器人”计划，以期找到一种方式来增强人机协作。Goldberg现在正在研究的人机协作案例之一是“外科机器人”。

这些外科机器人诞生15年了，但他们也不必昂贵的机械手臂好多少。这些机械手臂，也已经能够在医生的摄像头监控下，以安全的方式进行微创手术了，不过它们没有自我强化、自我策划行为等自主意识（虽然这种情况很快将被改变）。手术室里要进行的任务非常乏味， 比如手术缝合和清创术。Goldberg表示，让机器人去完成这些乏味的任务，可以让医生有更多时间做有意义的事情。而当技术达到一定水平后，机器人也许还会做得更好。“我们可以使用传感器来扫描人体组织，发现其中的毒瘤，然后切除。”不过，这会威胁外科医生的工作吗？显然不会。它们只会是成为帮助外科医生改进工作的工具。机器人分担单调乏味的任务，让医生能够把精力集中在重要的任务。

即便如此，对于许多技能门槛较低的工人来说，经济转型仍将是一次残酷的危机。斯坦福教授、Google无人车项目前主管Sebastian Thrun认为，应对这场即将到来剧变，最好的方式不是试图努力控制技术，而是加强人类的教育，“我们如今仍在依靠19世纪至20世纪时开发的教育系统来普及科学知识。”Thrun的在线免费高等教育学校Udacity如今已经拥有400万注册用户，该学校针对计算机相关领域授予纳米学位。“如今的情形是，技能熟练的人与不熟练的人之间的差距正不断扩大，我对每一个学生必须进行的任务教育可以说是抵御AI技能化的真正尝试。”

未来战争时代：真正的人机大战

根据新美国安全中心（CNAS）2014年一篇颇有影响力的论文，人机之争的未来“将是全新的作战性质，无人和自治系统扮演中心角色……美国国防部领导人现在应该开始为这个不远的未来——机器人时代，未雨绸缪”。想一想，成群3D打印的武装无人机铺天盖地，它们采用远程电脑控制植入神经元进行作战；海边的无人驾驶潜艇疯狂从岸边往陆地中心猎杀……在这个新的战争年代，《寒战》中昂贵的科技，比如战斗轰炸机会疯狂增长，装配大型计算机的军事力量开始转移到平板和笔记本……

这样的军事技术革命似乎是由三个因素驱动的。第一是风险更低。机器人可以到达士兵无法到达的环境，军队死亡率较低。在阿富汗和伊拉克，有超过1700个背负式的机器人，它们可以通过无线网络来控制，还装配了遥控手臂，能够进行侦测地雷或监测摄像头。而 MQ-9 死神等较新式的军事无人机已经可以在没有人工干预的情况下起飞、降落和飞到指定点。

第二个因素是金钱。美国每年的国防预算为6000亿美元，而军方预计，目前已经进行了15年研发的f-35战斗机需要花费1.5万亿美元。在对抗ISIS年代，这种支出不仅是难以被证明其价值，而且可以说是愚蠢之极。因为，在一群武装无人机或者购人肉炸弹恐怖分子面前，F-35毫无用处。另外，供养一支军队，花费在人身上的资金是昂贵的。最近一位美军上将预测，未来一支战斗旅的规模也许要从4000人下降到3000人，缺口的1000人则由机器人补上。

第三个因素是对中国崛起的恐惧（有人会说这是偏执思想）。自冷战结束以来，美国对自身的精确制导导弹等技术优势保持高度的自信。但是现在中国正在迎头赶上，并不断增加国防投入。如果战争爆发，中国的反舰导弹将给西太平洋的美国航母构成极大的威胁。与此同时，中国还大量投资于先进的武器，尤其是军用无人机。

对军方来说，最大的问题是针对哪些环节和情景推动智能机器的部署，以及部署到何种程度。对某些工作来说，机器干预是显而易见的。曾是美军首批女性飞行员之一的Mary Cummings表示，“从航母起飞和降落是军队中最危险的航空任务之一。”Cummings现在杜克大学掌管机器人实验室，进行更深入的人机协作研究，尤其是针对充满焦虑、容易导致误判的情景进行研究。她说，“现在，F18 的自动驾驶仪在航母的起飞降落都驾轻就熟，甚至要比人类好很多。”但是，人类仍然在这些环节中占据着主导地位，因为无人机的所有攻击都需要官方签字。

人机之争的中心问题并非技术性的，而是哲学性

但谈到机器人和战争问题时，中心问题并非技术层面的，而是哲学性的：机器会被赋予刺杀人类的权力吗？赋予机器这样的能力，后果是非常可怕的。去年7月，康涅狄格州一位年轻人因为给一架无人机加装了一把手枪，并上传至YouTube，而引发了一场激烈的辩论。装配带有摄像头的手机，以及一把半自动武器，这样的无人机在效果上无异于一架自制的远程武装无人机。

当然，简单的自动化武器并不新鲜了：地雷就属于这类武器。这样的武器其实极其愚蠢，因为无论是敌人还是3岁小孩踩到它都会爆炸。1990年代，美国活动家Jody Williams帮助一起反地雷的国际运动成功让 162 个国家签署条约——条约禁止使用、开发或者囤积地雷。Williams还因此获得了诺贝尔和平奖。到了今天，她又为遏制杀人机器人而努力。在20位诺贝尔奖得主的帮助下，她希望能在全自动武器成为现实前全面禁止它们。她说：“如果有人认为将决定人类生和死的权力交给机器也没什么问题的话，人性何在？”从2014年开始，联合国就一直在考虑制定可能性的国际指导方针。

在美国，五角大楼要求 “在使用武力时要保持适当程度的人类判断。” 但什么是 “适当” 的呢？事实上，目前正在制造的一些武器系统中，已经出现全自动的产物了。美国很快就会部署具有自主控制系统的远程导弹，它能够自行搜寻目标。韩国也已经研发出自动化的枪塔，它能够在黑暗中监测到一英里以外的目标并进行射击。

对机器人伦理颇有研究的乔治亚理工学院教授Ronald Arkin表示，“我并不倡导终结者式的武器，但我确实认为这是一个复杂的议题，我们不能简单地否定或肯定。” 他认为，智能武器可以减少平民的伤亡。“因为机器没有情绪，它们不会感到恐慌，” 他说：“也不会像哲学家所说的 ‘战争迷雾’ 那样作出不利的判断。” 比如，去年10月，美军一架AC-130武装直升机误炸了阿富汗一家医院，导致至少 42 人丧生，美军上将John F. Campbell称，这起人为失误的悲剧本可以避免。自动化的无人机会犯这样的错误吗？

“现在，我们指使无人机杀死那些真正可怕的人，”计算机科学家兼作者 Jaron Lanier 说：“但我们正在建立能够自主飞行并寻找目标的系统。”当然，问题又来了：那些可怕的人劫持了无人机并用它们来攻击我们该怎么办？这样的情况会发生吗？“历史告诉我们，这样的情况一定会发生。” 他说：“但是，当出现这种情况时，我们要做的不是诅咒 ‘那些邪恶的机器’，而应该指责那些不负责任、愚蠢的工程师。我们不应该讨论AI的罪恶，而是工程师的责任——他们应该开发出一套可靠的不会反转攻击我们自己的系统。这才是正确的讨论。”

总结

一些科学家认为，我们也许能够将伦理道德加入到机器的编程中，但这项工作的复杂程度，高到我们只能臆想。无论如何，越来越多自动化武器的出现也许已经是不可避免的。跟需要大量国家才能支撑得起的投资的核武器不一样，这种新技术是由商业经济推动的。“我敢保证，Google和亚马逊不久之后对无人机的监控能力比军队还强，”Cummings称，“他们有更强大的数据库，更先进的人脸识别技术，更强大的制造和控制无人机的能力。这些公司对你的了解比CIA还多。如果未来政府指望企业来为他们提供最先进的国防技术，世界会发生什么？”

不过，Cummings认为杀手机器人的到来还有很远：在实验室提出自动化机器人和武器的构想比真正在现实世界中容易得多。

如果未来我们设计的机器反过来挑战我们，伤害我们，破坏我们热爱的世界，甚至想要灭绝人类，那也是因为我们给了它们这样的权力和能力。到了最终，智能机器崛起的恐慌不在于有朝一日它们也有了自己的思想意识（如今许多人所担心的），而在于它们拥有了我们——存在一切可能的缺陷和复杂性的人类——为它们设计和创造的思想。