Uber无人车致命事故过去一年 这10点教训不能忘记

作者: 佚名 2019-03-22 15:35:33

自动驾驶技术一向姿态高调,但其面临着“幻想破灭”。第一起因其造成的车祸死亡事件,在一年后仍然备受关注。

一年前的今天,也就是某星期天晚上10点左右,自动驾驶汽车见证了行业领域最为关键的时刻。那个致命的夜晚,伊莱恩·赫茨伯格(Elaine Herzberg)走在亚利桑那州坦佩市的米尔大道上,结果竟意外被一辆正在测试Uber自动驾驶汽车技术的沃尔沃XC90给撞死了。赫茨伯格的死给一场白热化的竞赛蒙上了阴影,这场竞赛旨在开发出改变世界的技术,使之既能挽救生命,也能为胜利者创造出数十亿美元的价值,改变公众对无人驾驶汽车的看法,同时也帮助开发该技术的公司调整其内部运转。尽管这一可耻的时刻并不会阻止科技向自动驾驶汽车进军的步伐,但它确实也创造了一个重要的契机,让我们可以停下来,反思这场悲剧是如何发生的,以及我们必须汲取怎样的教训,才能防止惨案再次发生。

Uber无人车致命事故过去一年 这10点教训不能忘记

第1课:这并非一场比赛

就像其他毁灭性的技术灾难一样,伊莱恩·赫茨伯格的死也是由一连串的失败所导致的。这些失败包括软件本身的质量不过关、Uber安全驾驶员的训练不到位,还有车祸地点糟糕的道路设计(除此之外不胜枚举)。然而导致赫茨伯格意外死亡的这些失败背后,几乎都有一个因素在起作用,那就是认为研发自动行驶技术是一场“竞赛”,比赛的“赢家”可以获得最大份的奖励。这场“自动化竞赛”在许多方面都存在缺陷,我们没有办法彻底解决。但从最基本的层面上来看,这是由于技术方面的偷工减料,比如安全驾驶员的训练不够,长时间疲劳驾驶。此外,亚利桑那州的测试项目以惊人的速度进行,几乎没有受到凤凰城Uber先进技术集团总部的监管。

几乎所有人都有份推动这场“自动化竞赛”。各企业利用该技术以募集更多的风险资本,风投家用其来证明投资的价值,媒体又借此作为一个简单的框架,讲述与该新技术领域有关的种种精彩故事,而自动驾驶技术本身最终也开始了自述。这是一个引人入胜的叙述,给人一种在制造过程中观察历史的感觉,暗示着任何人都能明白谁最有可能成为下一个技术巨人,即使人民群众并不了解其中极其复杂的技术本身。如同许多有危险缺陷的启发式教育法一样,无比复杂的东西被简化成一个浅显易懂的概念,浓缩成一些关键却又基本的问题,譬如“如果这是一场比赛,那么比赛终点到底是要实现怎样的结果呢?”

但更为重要的是,“奔向自动化的比赛”创造了推动赫茨伯格悲剧惨案的可怕动机。它不惜一切代价地奖励研发速度。技术在缺乏监督的情况下运行,在安全至关重要的情况下长时间工作,大量积累里程数,提高公众对开发计划的认知,掩盖看似微不足道的缺陷,好早日让车辆上路进行测试。赫茨伯格的死戏剧性地说明了快速发展自动驾驶汽车的危险性,不过该领域仍有一小群人追求“迅速和突破性发展”的模式,由此获取更多的资金,抑或是在人才济济的行业里脱颖而出。只有开发商、监管者、政治领袖和媒体都认识到这种心理背后可怕的代价之后,伊莱恩·赫茨伯格式死亡的风险才不会继续存在。

第2课:文化事关紧要

伊莱恩·赫茨伯格的死紧接着丑陋的Waymo-Uber 诉讼案。这场诉讼里,Alphabet公司起诉了其前工程师安东尼·莱万多夫斯基(Anthony Levandowski),称其窃取公司的激光雷达技术,并用于Uber的自动驾驶汽车项目。这起诉讼最终判定Waymo打赢了,但Uber的一些最为丑陋的公司文化得以公之于众,这是不可否认的。甚至在最终裁决之前,Uber“技术兄弟”的公司文化也受到了不利的影响。这起诉讼案揭示了公司上至首席执行官特拉维斯?卡兰尼克(Travis Kalanick)为赢取胜利“不惜一切代价”的态度和极度的傲慢自大。

卡兰尼克奉行的是赢得胜利比守规矩更重要。Waymo的律师Charles Veerhoven认为,这种理念似乎已经深深植根于Uber的公司文化之中。Uber的汽车在旧金山至少闯了六次红灯以后,公司决定开始转场亚利桑那州进行测试。此举迫使加利福尼亚州的机动车管理局撤回了Uber的测试许可证,并且针对自动车辆测试通过了国家目前最为严格的一些规定。即使因为Waymo的诉讼案,卡兰尼克已被公司驱逐出局,承担事故责任,但Uber的工程师们还是推出了一个紧急制动系统。该系统本可以防止赫茨伯格那样的车祸死亡。工程师们希望这么做,能给即将上任的首席执行官Dara Khosrowshahi留下一个自动驾驶非常平稳可靠、不会用到强力制动的印象。急躁、逃避监督和操纵的观念都是Uber企业文化的核心要素。尽管有许多契机可以重新审视这些理念,但Uber最终还是酿成了意外伤亡。

一些自动驾驶汽车的开发商现在表示,赫茨伯格的死是一个“唤醒警告”。但也有人认为,如果你需要被提点才能清醒,那么说明问题已经非常严重了。在美国,车祸每年造成35000多人死亡。因此毫无疑问,自动驾驶系统的开发模式必须与研发移动应用程序或社交媒体网络的方式截然不同。最具责任心的开发商意识到,安全实际上才是他们工作最基本的部分:实现车辆的“自动驾驶”其实不需要太多的努力,最困难的地方是要保障自动化汽车可以安全行驶。安全是其发展的出发点、中间节点和终点。研发过程中根本没有其他目标。任何技术开发商如果从根本上没有这样的文化以导向,都可能会造成伤亡事故。

第3课:人类不擅长监督不完美的自动化

自动驾驶技术被看作是一个让人放松警惕的机会,好似不再强调道路的危险性,但直至它被证实在任何情况下都可以保证安全之前,或许所有的自动驾驶都需要真人监督。这是一大挑战,因为绝大多数的驾驶都极其无聊。另外,安全驾驶员心理上很容易获得一种虚假的安全感,但驾驶系统其实没那么安全。这也正是赫茨伯格事件中发生的情况:事故发生时,Uber的安全驾驶员Rafaela Vasquez正在手机上观看The Voice on Hulu,并且当天晚上行车途中,她一共查看了166次手机。

Vasquez本来还在看手机,瞬间惊恐地抬起头,这才意识到刚刚她没看路的时候,赫茨伯格被撞了。这段视频里,她看到了未来可能存在的恐惧。在完全自主性得到验证之前,自动驾驶一方面鼓励我们解放开车时的注意力,一方面无法确保下一个伊莱恩·赫茨伯格的安全。对于自动驾驶汽车的“安全驾驶员”而言,这也不是一个普遍存在的问题。现如今,驾驶员都会经过严密的训练,而且在车辆测试时有人陪同。不过这一问题似乎强调了特斯拉自动驾驶司机死亡的原因。现在,特斯拉的“全自动”系统显然是在验证安全之前开放给一些顾客试用。另有一家公司似乎也已经准备好让自己的客户无意之间变成未经培训和无人监督的安全驾驶员。

Vasquez本人的确需要为事故负上一部分责任,但是Uber的责任不可推脱。在没有监督的情况下,禁止一次性让一个人在高度自动化的汽车里呆10个小时。由于实现完全自动化所需要耗费的时间比承诺的要长,在提醒司机保持安全意识的同时,赶快达到几乎完全自动化的诱惑是难以抗拒的。然而Vasquez恐怖的表情应当能提醒每个人这类系统的风险。这无疑也让特斯拉客户测试的前景不那么明朗。

第4课:易出事的道路使用者需要格外小心

制造Uber自动驾驶汽车所用激光雷达的Velodyne公司表示困惑不解,不明白为什么传感器似乎无法识别自行车,伊莱恩·赫茨伯格被车撞时正穿过米尔大街。尽管如此,大多数自动驾驶汽车的传感器还是最擅长识别那些如果撞到就可能损坏汽车本身的实质性物体。尤其是在夜间,当摄像头还没有达到其功能的最佳效果时,雷达和激光雷达就很难独立识别行人和骑自行车的人。实际上,这是自动驾驶车辆开发商来到亚利桑那州凤凰城等地的原因之一:这些地方不仅天气一直很好,而且路上行人或骑自行车的人也不像其他城市那么多。

一般来说,最好的自动车辆开发人员认为,传感器套件中不能设置有太多的冗余性或多样性,只需覆盖尽可能多的边缘情况即可。但是,即使在伊莱恩·赫茨伯格去世后,我们仍然没有看到许多自动车开发商添加一种传感器,最适合夜间识别易出事的道路使用者:热成像传感器。丰田研究所(Toyota Research Institute)曾表示,其最新的传感器套件将包括一个热感照相机。当然其他开发商也必须效仿行之,特别是如果自动驾驶汽车曾希望用于自行车、行人、踏板车和其他车辆众多的地区。热传感器将不得不成为自动驾驶车辆的生产标准。通过探测人体热量,热传感器可以识别到人类,即使他们身处一根杆子或另一辆车的后面,也不论是在白天还是半夜。

坦白来说,令人惊讶的是,赫茨伯格事件后,大多数公司仍尚未采用热传感器。

第5课:监管胜过选择

Uber在加州的测试许可被撤销后,又前往亚利桑那州进行,这里的州长Greg Ducey格外欢迎自动驾驶汽车公司,甚至讥讽加州,称其扼杀科技创新。对于一个自由市场的共和党州来说,放低管理门槛是吸引外资来亚利桑那、提高该州高科技形象的一个好对策。短时间内这样做,行之有效,可以让亚利桑那州摇身一变,跻身为主要的自动驾驶测试中心之一,直至赫茨伯格出事。

作为对事故的回应,Ducey不得不从一个极端走向另一个极端,全面禁止Uber汽车在亚利桑那州的公路上行驶。甚至马里科帕县的检察官办公室也不得不回避这起案件,因为其与Uber合作参与了一场公共安全的运动,引发了利益冲突。整个情况表明,亚利桑那州的政府官员一直急于讨好自动驾驶公司,这也是一连串导致赫茨伯格死亡的事故因素之一。Ducey和亚利桑那州现在都是一项1000万美元诉讼案的被告,这项诉讼旨在将赫茨伯格的死亡原因归咎于他们。

对政府官员来说,亚利桑那州的经历是一个严重的警告,提醒他们要避免监管上的“竞争到底”。降低自动驾驶汽车监管限制所带来的短期优势是诱人的,但死亡的长期风险是巨大的。更深层次的信息是:如果你放弃了监管,就要引来人身伤害诉讼。积极的监管可以是主动保证公共安全和负责任的公共道路测试,也可以是被动地由救护车(人命)追逐的律师和愤怒的群众促成。显然,第一种选择更为可取。

第6课:法律责任必须赶上技术。

伊莱恩·赫茨伯格之死提出了一个社会未能回答的难题:一辆表面上是自动驾驶的汽车撞人后,谁来负责?软件本身是“人”吗?受到人类驾驶员相同的权利和限制吗?责任方是安全驾驶员吗?是公司吗?还是监管机构?这些问题在赫茨伯格事件后全部爆发出来,很难不带情感色彩地客观回答。

长期以来,自动驾驶技术一直被视为纯粹是技术上的问题,而事实上,驾驶是一种由法律、习俗和法理学所控制的、围绕人类驾驶员展开的密集型社会活动。该领域新出现的观点是,现在社会有时间跟上技术,于是开始形成规则和原则,分配责任,并在自动驾驶车辆出错时问责。然而,就像热感成像一样,我们仍然没有看到这些问题的紧迫性。这是人们在第一次致命的自动驾驶事故后所期望引起的重视。尽管对有才华的自动驾驶工程师需求很大,但对业务娴熟又聪明的律师和政治家的需求也同样巨大。如若我们希望今后能够更妥善地处理诸如赫茨伯格这样的情况,至少这些是我们的最低要求。

第7课:领导者需要倾听

就在赫茨伯格去世不到一周前,一位名叫罗比·米勒(Robbie Miller)的Uber员工给Uber先进技术集团的高层领导和公司律师发了一封邮件,警告称导致赫茨伯格死亡的因素是一个大问题。这封邮件的部分内容如下:

“ATG仍在努力建设一种植根于安全的文化。这些汽车经常发生事故,造成损坏,而这通常是由于运营商的不良行为或自动驾驶技术本身造成的。二月份,几乎每隔一天就有一辆汽车被损坏。我们不应该每行驶15000英里就撞一次东西。屡次违规、驾驶糟糕的情况却极少强制汽车终止使用。少数司机似乎还没有经过适当的考查或培训就上路了。”

米勒建议,按现有标准,对大多数主要的自动驾驶开发商进行一些实际性的改变,例如安排多人在每辆测试车上,停止为了里程数而堆积测试里程的行为,授权员工处理系统升级问题并让车队停驶,进行碰撞评估,在ATG团队中更广泛地共享数据等等。回想起来,米勒的电子邮件其实业已表明赫茨伯格之死完全是可以预防的。

第8课:基础设施至关重要

自动驾驶车辆开发商不愿意依赖基础设施开发他们的系统,无论是特定的街道设计还是V2X通信技术。这可以理解,因为技术发展很快,而基础设施却很少。与此同时,越来越明朗的是,基础设施确实在驾驶安全中起到了作用。地方官员需要确保他们的街道不会使自动驾驶汽车和其他交通发生冲突。

伊莱恩·赫茨伯格被车撞的地方像是一条未上漆的人行横道,但它既不是人行横道,也不是穿过米尔大道特别安全的地方。我们不知道赫茨伯格走上马路时在想什么,但这条道路的设计所指示的信息不明确已被视为事故问题的一部分,并已记录在案,以防止进一步的交通混乱。任何打算邀请自动驾驶车辆进入其道路的城市都应谨记这一因素,并对车辆将要运行的任何一条道路都进行详细的清点排查,以防再次出现致命的混乱规划。

第9课:自动驾驶存在反对者

公众自打第一天起,就对自动驾驶汽车存怀疑态度,不过在赫茨伯格事故发生之后,我们进一步看到公众对这项新技术的信任呈下降趋势。对自动驾驶系统的不信任来自方方面面,但这种不信任的程度跟不信任总统一样高。总统本人在一则公理故事中被塑造成“他们永远不会工作”的形象。人们对未来坐在一辆不受人控制的车里感到恐惧。尽管经常被嘲笑为“路德主义者”,这种对自动驾驶汽车的恐惧却是一个不争的事实。自动驾驶汽车开发商和粉丝们不能单单嘲笑,直到这份恐慌消失。事实上,一些高科技行业的傲慢态度也是导致赫茨伯格事件等情况的源头,其引发了自动驾驶反对派的怀疑与恐惧。亚利桑那州后来对Waymo 自动驾驶汽车的攻击就是明证。

这也是该行业主要的文化障碍:高科技公司已经习惯于提供强劲的经济激励,促使他们能将异议、困惑和抵制一扫而光。由于自动行驶车辆还远远无法兑现他们夸夸其词的承诺,公众的宣传、教育和沟通将变得比以往任何时候都更加重要。考虑到事情的复杂性和围绕其存在的混乱程度,扫清公众不安恐惧的情绪也是一大严峻的挑战。不过即使是通过谦逊教育表现出企业的诚意,这也将是该技术行业典型傲慢心气的巨大改善。如果没有别的,仅仅喊着“历史进步站在我们这边”的口号,是行不通的,这把科技会带来的忧虑完全抛诸脑后。

第10课:信任是自动驾驶技术的货币

从最基本的层面上讲,信任关乎长期关系。信任某人或某物意味着知道它将长期存在,了解它想要什么,以及它如何运作,并保证它会对公众关注做出反应。这就是亚利桑那州局势如此混乱的根源:降低所有的门槛,引进大量的Uber自动驾驶汽车,但赫茨伯格出事之后,这些汽车立马随之离开。从一个极端到另一个极端的循环与建立信任是相反的道路。正如为了获得几乎不可见的(融资回合之外的)优势而抄近路会造成双方发展方向不一致,从而破坏信任。

糟糕的结果毕竟是糟糕的。伊莱恩·赫茨伯格的死是许多不负责行为的结果,但我们可能会面临这样一种情况:在这种情况下,有人被自动驾驶汽车撞死,但是车辆配置本身没有明显的问题。无论每个人多么努力地阻止这一情况发生,预测出一个糟糕结果的可能性都需要尽可能诚实和透明的测试者参与。这不是炒作技术,而是实际地交流技术。必须承认在任何公共道路测试中,风险是不可避免的,但风险可以清楚地评估、尽可能地降低,而不是推翻你认为自己对开发商或其公共部门合作伙伴所了解的一切。要求自动驾驶开发商具备与公众分享发展动机的意识,而不是好像他们存在于另一个现实,通过创造原本可以规避的安全风险,创造数百万美元的价值。

培养这种信任,对于自动驾驶研发人员的未来,创建强大的预测模型或可靠的路径规划算法来说,同等重要。这是因为自动驾驶汽车最终理应像飞机一样:无论你是进入波音公司还是空客公司,你都希望竭尽一切努力,确保你的航班尽可能的安全。由于自动驾驶汽车不会因操控或性能而有所区别,因此,汽车开发商所需的唯一可销售属性是客户坐进其车辆后感受到的信任度。如果开发商没有融入他们业务经营的社区,如果他们不分担道路的风险,如果他们寻求尽可能松的监督力度,如果他们为了追求更高的估值而抄近路,最终只会害人害己。

自动驾驶 Uber 伊莱恩·赫茨伯格
上一篇:人工智能大行其道:科技公司需要设置“首席偏差官” 下一篇:5G、AI和物联网如何实现“智能互联”
评论
取消
暂无评论,快去成为第一个评论的人吧

更多资讯推荐

李德毅:自动驾驶泡沫破碎 技术、市场、生态和成本不可忽视

9月21日,中国工程院院士、中国人工智能学会理事长李德毅出席了2019中国人工智能大会(CCAI),在大会上谈及“自动驾驶泡沫破碎”的话题。

中国人工智能学会 ·  2019-09-25 12:18:12
5G、自动驾驶、人工智能都到什么阶段了?一张图就能看懂

今年,Gartner从2000项技术中选出了29项,并由此总结出了企业决策者应该纳入考虑范围的五大创新技术趋势。Gartner研究副总裁Brian Burke在接受CIO Dive采访时指出,「人工智能渗透到了其他所有趋势中。」

biu ·  2019-09-25 08:20:58
斑马郝飞:终结苹果、安卓操作时代,中国智能网联汽车要研发自主的操作系统

斑马的使命是成为智能网联汽车的世界级操作系统类生态平台。我们会快速输出我们的底层能力,真正的操作系统必须是普世性或者普惠性。

利荣 ·  2019-09-23 20:23:27
自动驾驶汽车的利与弊

多年来,技术的进步使得交通运输变得更加便利。像物联网应用这样的汽车技术已经改变了驾驶体验。

JEREMY CLARK ·  2019-09-19 14:10:12
自动驾驶难过安全大关 车企、供应商与监管层应强化合作

总体来看,车企关注自动驾驶安全和成本,供应商关心产品落地场景和盈利,监管层希望通过自动驾驶来提升交通出行效率,这些因素汇聚在一起时,如何平衡各方利益点至关重要。

张祥威 ·  2019-09-09 16:41:15
人工智能和物联网如何成为完美一对

随着人工智能和物联网的应用越来越广泛,有必要了解这两种技术如何协同工作,以使企业和普通人受益。

iothome ·  2019-09-06 16:20:35
无人驾驶元老被起诉,窃取谷歌1.4万份机密文件给Uber

据《纽约时报》报道,联邦检察官指控Anthony Levandowski犯有33项盗窃和企图盗窃商业机密罪。如果他被判有罪,将面临最高10年的监禁和高额罚款。

佚名 ·  2019-08-29 11:33:33
当自动驾驶还未摆脱人类

在「完全自动驾驶」这个纯技术的难题还未普及实现之前,「人机共驾」问题是所有汽车企业、自动驾驶企业都需要突破解决的另一道难题。

于本一 ·  2019-08-21 08:45:25
Copyright©2005-2019 51CTO.COM 版权所有 未经许可 请勿转载