李德毅院士谈特斯拉事故 自动驾驶是“杀手锏”还是“杀手”?

整理/记者 李晶

特斯拉自动驾驶模式一直被视作是其高科技范儿的“杀手锏”功能。遗憾的是，7月1日，一辆特斯拉Model X在美国开启Autopilot(自动驾驶)功能驶离出口时发生侧翻，所幸无人员伤亡;早在5月，一辆特斯拉也在自动驾驶模式下发生意外事故，导致司机身亡。特斯拉的这两起事故为自动驾驶的弄潮儿们敲了一记警钟，复杂交通路况下，自动驾驶并非难事，真正困难的是如何安全地自动驾驶。

中国工程院院士李德毅在参加2016“创新链接—国际智慧城市和智慧生活专题研讨会”时也谈到特斯拉事故的启示。他强调，“自动驾驶中，驾驶脑不可或缺!”下面是他的演讲实录：

▲一辆特斯拉也在自动驾驶模式下发生意外事故，导致司机身亡
 

人类本能难免失误，人工智能或改变现状

1956年，五个创新的年轻人，在美国小镇达特茅斯的暑期研讨班提出了“人工智能”的概念。从1956年出现人工智能这个词，到今年已有60年。

60年后的今天，人工智能开始奔跑，并且影响全人类的生活。机器人将成为人类社会走向智慧生活的重要伴侣。知识和智能，不再是劳动力和原材料，而将成为先进社会最重要的经济来源。

人工智能从走路到奔跑的过程，可以用两个典型案例来说明——围棋脑和驾驶脑。

围棋想围住对方，在某个状态下应对的步骤比象棋要多的多。手筋、弃子、劫争等战术战略运用，既有逻辑思维，更注重形象思维、大局观，本质上是一个拓扑动力学问题。

从统计角度看，一个特定的棋局有250种可能的期望走法(决策)，沿着某种走法深入下去，可达到150层，因此计算和推理量巨大。

AlphaGo突破传统程序，搭建了两套模仿人类思维的深度卷积神经网络：承担棋局态势评估。但AlphaGo仅仅是一个围棋脑，还不是一个围棋手，更不是围棋机器人。它根本就没有眼和手，没有感知和行为能力;没有情绪，没有情感，不能分析对手的心理状态，不能现场与对手展开心理战，缺失交互认知能力。

机器人应该有学习能力。让轮式机器人与赛车手来一次比赛，将是有完整感知、认知、行为能力的人机大战，将更为激动人心。

汽车，这个曾经被称之为改变了世界的机器，正在被AlphaGo所改变，正在被世界所改变。汽车的背后有严重的隐患，不仅是对土地、能源的掠夺、过度消费引发的一系列生态问题，还有社会问题。

2010年，公安部统计的交通事故死亡人数为65225人。而世界卫生组织(WHO)估计为275983人，这一数字相当于每天一次重大空难，美国亦然。全球人类伤亡相当于每个月经历一次“9·11”大灾难。现代社会中，亲戚朋友和他们的朋友，一定有人在交通事故当中受到伤害，交通事故已经成为人类的第一杀手。这是科学进步和人类文明不能容忍的。

然而，紧急情况下，人的本能难以保障安全，驾驶员失误不可避免，交通事故伤害是全球致命的“痛”。人工智能将使得人工孤立驾驶机器的时代一去不复返!

没有相同的驾驶员，亦没有相同的驾驶脑

真正能够教机器人开车的应该是驾驶员。机器人开车时候扮演的角色，主要是通过学习的东西消化吸收，深入学习，变成了自己的行为。

日前，特斯拉自动驾驶出现一起致死车祸，我们分析这起事故的两个要点：特斯拉以120迈速度撞中正在转弯的大卡车腰部，事故负全责。路口减速是驾驶常识，而特斯拉缺少过路口常识。第二，特斯拉的相机把白色大货车混同白云。这在驾驶员看来很离奇，但特斯拉缺少已有认知帮助当前感知。分析这起事故，可知“感知不等于认识，驾驶脑不可或缺!”

驾驶认知的形式化，强调如何用人工智能技术代替驾驶员的感知、认知和行为，确保车辆自主行驶，不必纠结于机器驾驶脑和驾驶员脑是否在微观上具有相似性。驾驶活动更多的是技巧，记忆和经验，不是知识、推理和计算。

驾驶脑由长期记忆，工作记忆，动机，学习和思维，以及性格组成，是一个瞬间记忆池、态势记忆池，还有决策记忆池。驾驶脑应该强化什么?我们不做常规的先视后觉，而是做视而不觉，边视边觉，先觉后视，即用已有的认知，再借助于当前的感知，让机器自主驾驶。

在驾驶过程中，驾驶员与环境周边车辆交互认知存在差异，反映为个人的智力和运动协调能力的差异。世界上没有完全相同的驾驶员，也没有两个完全相同的驾驶脑。

真正能够教机器人开车的应该是驾驶员。

熟练的司机开车如同自己走路一样自然，就是按本能办，这叫做本能控制。因此在我们的驾驶那里面有很多记忆棒、入口记忆棒、特定记忆棒、困境记忆棒、事故多发情景记忆棒等等。

我们把性格、情绪、瞬间记忆、学习和思维、动机聚集在一个卡上，动态感知、态势分析、自主决策、精准控制、在线执行，强调了长期记忆、工作记忆和感知记忆。

把这张图再打开，大概是这么一个机构，一个智能车有四大类的传感器。雷达传感器，尤其是激光雷达和超声雷达，现在我们正在用红外雷达。摄像头也很丰富，要看车道线、路牌、红绿灯和交通警，因为它时不时打手语。第四大类传感器就是GPS北斗，我们形成一个驾驶态势图，对这个驾驶态势图不断地感知。

你用同步定位或者是映射技术，把我们头脑中的驾驶地图进行匹配，形成一个自主决策的方案，这个自主决策的方案告诉我们的小脑，由控制器去执行，这就是我们智能驾驶脑的功能模块。

我们强调了长期记忆、短期记忆和感知记忆的不同作用。我们对一个特定问题，按照我们图灵奖获得者的文章，它的结论是要注意解决特定的问题，在这个特定问题上，你只要把感知、认知、行动落实下去，我们落实的结果就变成智能驾驶脑。

我们主张在机器人里面，将一个调试总线扩展为自学总线，开创自学习板块。人工驾驶时，将经验驾驶员对油门、制动和方向盘的操控量抽象为认知箭头，与其机器视觉形式驾驶态势图进行一一对应，悄悄地生成碎片化的驾驶态势认知箭头图对，然后通过深度学习，生成驾驶记忆棒。

机器人向经验驾驶员学习开车。深度学习，实现自学习，统计学习和进化学习。

事故也是学习的一部分。试探纠错、汲取事故教训是提高驾驶水平的重要因素。驾驶员做了错误动作，导致事故，也可通过深度学习形成事故记忆棒。

驾驶脑成功的关键是驾驶认知的形式化，以及形式化后的自学习。

▲特斯拉汽车装配无人驾驶仪，解放双手轻松上路

人类善于调教机器人，机器人让人类更智能

人类始终善于更好地调教和帮助机器人，善于利用机器人优势，并弥补机器人不足。反过来，人类还能够利用机器人提升自身的智慧和能力，机器人一定会让人类自身更智能。

近十年来，我们参加比赛和里程碑试验，智能车各种感知和认知手段相互依存、彼此缠绕，在各类比赛场、测试场，智能车的表现千奇百怪、反反复复。

我们困惑过、迷茫过、试来试去。换车、换平台、加电源、换模块，通过多车交叉验证和常态试验，终于理出了头绪，形成全新的驾驶脑设计!

知识和数据双轮驱动着人工智能。以前强调知识，知识驱动人工智能发展。例如计算机的计算智能已超过人的智能(单个人或者几个人的智能)，但是计算机做不到交互。在认知过程当中，人脑神经元之间的交互，以及任何外部世界的交互不可能复制。

今天通过大样本和深度学习，机器人终于可以聪明到足以改变程序中的参变量、甚至自身局部代码。

人工智能的核心不仅是算法，更是学习，大数据环境下充分发挥碎片化大数据认知的机理，让程序围着数据转。

在我们的星球上，围棋和汽车都是人类的发明。而今，人类要迎来机器人新人类，围棋机器人和轮式机器人发展成为人类的伙伴。他们有智慧、有个性、有行为能力，甚至还有情感。机器人给人类带来的影响，远远超过计算机和互联网在过去几十年间已经对世界造成的改变。

2030年，争取每万名产业工人所拥有的工业机器人数量达到300台左右;农村城镇化导致中国农民急剧减少，无人拖拉机、农用无人机、背包机器人将成为新一代农民，黄牛退休、铁牛耕地、农民进城、专家种田;全国大中医院的微创手术机器人，近一半国产化，在全社会普遍使用形形色色的服务机器人，我国家家都有机器人，老年人、残疾人和儿童平均每人拥有一台形态各异的服务机器人。

科技从不停步，人类永不满足。今天人类正在发明越来越多的机器人，智能手机可能成为你的忠实助理，轮式机器人比一般人车开得更好。曾经的很多工作岗位将会被智能机器人替代，但同时又自然涌现出更多新的工作，人类将更加有尊严，更加有智慧。

人类始终善于更好地调教和帮助机器人，善于利用机器人优势，并弥补机器人不足，或用新的机器人淘汰旧的机器人。反过来，人类还能够利用机器人提升自身的智慧和能力，机器人一定会让人类自身更智能。

各式各样的人机协同的机器人，为我们迎来了人与机器人共舞的新时代，伴随优雅的舞曲，毋庸置疑的是：人类始终是领舞者。

对话李德毅院士

李德毅，中国工程院院士、国际欧亚科学院院士。现任中国指挥和控制学会名誉理事长，中国人工智能学会理事长。

▲李德毅院士接受北京科技报采访

【北京科技报】无人驾驶可靠性和安全性有多少提升空间?

【李德毅】不但是可靠性和安全性的问题，还有大的架构问题。我的基本观念是，如果要做智能驾驶或者自主驾驶，一定要去研究现代的驾驶员在驾驶过程中的作用。他在时时刻刻与周边的环境和流量，做交互认知。如果这一块没有人替代，那么，自动驾驶的安全和可靠是没有把握的。

举例来说，特斯拉致死事故中，机器把白色大卡车看成了一片白云。人类的小孩子也不会犯这样的错误。原因在于缺乏先验知识，不是车子不好，也不是传感器本身有毛病，而是缺少了驾驶员的认知环节。

我提出的一个重要思想是，感知不等于认知。对于全世界的、包括谷歌和特斯拉在内的所有汽车制造者，这是一个很好的启示。

从科学的角度看，自动驾驶并不是万能的。自动驾驶时，特斯拉要求驾驶员始终把手放在方向盘上，这只是释放了驾驶员的双手，没有释放双脚，也没有让驾驶员释放注意力。从这个角度来说，自动驾驶不符合人机工程学。我们坐车时打瞌睡，但司机不能打瞌睡，因为他要不断关注路面的情况。如果把手脚都解放了，但是注意力不能解放，反而使司机容易疲劳。安全性和可靠性更加不好。

不要只想到自动驾驶，更要想到驾驶员的智能代理，用机器驾驶脑来替代。人类的先验知识，包括事故，以及好的驾驶技术，都放在驾驶脑里，通过记忆认知、交互认知、计算认知，一起完成计算驾驶的任务。

这个任务并没有太多计算，主要是技能，就像中学生毕业即可考取驾照。

▲ 2015 年，谷歌开始在公共道路上测试自主设计的无人驾驶汽车

【北京科技报】人工智能已经有60年历史，您预测下一个60年会是什么样子?无人驾驶汽车需要多久能够在城市里实现?

【李德毅】我有一些愿景，但没有60年之久，大约是30年。展开想象的翅膀，那时候家家都有机器人，老人、儿童、残疾人，一人一部形式各异的机器人，车子将成为共享的移动工具。全世界70亿人口，如果每人一个机器人，那就是70亿个机器人，它们成为与我们一起生活的新新人类。

机器人不一定都是人形机器人。有些专属某一领域，可以聊聊天，喂喂饭，导导航诸如此类。我认为，人工智能时代的这60年，可能要超过计算机和网络对于人类社会生活、经济建设和国防状态产生的变化。

计算机和网络分别用了约70年和30年改变我们的生活，现在所有“互联网+”充分说明了这一点。人工智能时代的变化将更大，但没有办法笼统的描述。我认为，知识和智能将是一个很重要的劳动力要素。

【北京科技报】人工智能领域，中国是不是领先的?

【李德毅】我认为，刚才讲到的“驾驶脑”就是领先的。全世界没有这个声音。人工智能领域，我们没有必要过分自卑，当然我们也可以进行讨论，不能因为自信而傲慢。

【北京科技报】自动驾驶的研究，有的一步到位，有的是小步迭代的，哪个发展更快?

【李德毅】我不主张一步到位，把方向盘油门都去掉。第一人们驾驶有乐趣，这是人们的愿望;第二，汽车发展一百多年，之所以成功是汽车人机工程学的成功。把一个在复杂环境、复杂气候下的运动，结合成方向盘控制横向，油门和制动控制纵向，且只选其一。这样的人机工程学设计是很好的，不一定要把它去掉，但是可以把它藏起来。

车内有很多的空间，可以把它藏起来。其实，一步到位的谷歌，现在已经恢复了部分操作，不再单纯依靠按钮。因为社会环境那么恶劣，总能碰到地震、大洪水、火山爆发等情况。在各种意外的情况下，人的应变能力比机器人要强得多。总不能遇到意外，车子变成一个铁疙瘩，推都推不动

【北京科技报】自动驾驶领域，谁会成功呢?跨界的互联网公司或是车企?

【李德毅】我今天讲的一个“驾驶脑”，很新鲜，全世界没有这样讲的。我认为，认知这个环节不能丢掉。最后还是大家汇聚到一起，做出来的东西一定是综合的，一定是协同创新，跨界融合的。■