是安全还是威胁？自动驾驶安全得这么看

这是安全还是威胁？自动驾驶的安全性如何？这其实是一个常见的问题，而且看起来也是一个奇怪的现象。

近年来，自动驾驶的普及程度一直处于较高水平。

每当舆论提到自动驾驶，就像一场嘉年华。

它不仅可以帮助减少交通事故，还可以建设未来的高科技文明。

看来自动驾驶带来的是“歌舞升平”。

和平、和平、繁荣。

”然而，一旦自动驾驶发生事故，质疑和批评就会铺天盖地而来，似乎从一个极端到另一个极端。

自动驾驶汽车到底是更安全，还是更危险？有人认为不安全就是流氓，而另一些人则认为新技术带来新问题很正常，人为造成的交通事故数量居高不下，那么，当我们谈论自动驾驶汽车安全时，我们到底在想什么　●” “安全”是一个复杂的系统工程，经历了一百多年的发展。

传统汽车工业其实已经非常成熟，已经形成了非常严格的发展体系。

随着汽车的不断发展，“安全”标准也越来越严格，这很大程度上得益于汽车的“智能化”，对于传统汽车来说，一辆汽车在研发、制造、使用等各个环节都会经过一系列的安全测试，其安全标准也非常完善。

对于不是很“智能”的汽车来说，保证安全是相对容易的。

只要保证机械层面的可靠性和稳定性，安全性基本上就能得到保证。

但随着汽车中电子/电气系统数量的不断增加，安全挑战变得越来越大，因为“所有供电的东西都有点智能”。

一些豪华车一般有几十个甚至上百个ECU（电子控制单元），其中制动系统、发动机控制系统、安全气囊系统等都是与安全相关的系统。

所以对于汽车开发商来说，首先这些系统一定不能出现故障，但是一旦系统出现故障，汽车必须能够保证安全行驶。

这就是汽车的“功能安全”。

目前业界普遍认可的道路车辆功能安全标准ISO 2（ASIL有四个级别，分别是A、B、C、D，A为最低级别，D为最高级别）。

该标准体系于2016年推出，旨在满足汽车电子/电气系统数量不断增加的功能安全设计。

与传统汽车相比，自动驾驶汽车系统更加复杂，在感知、决策规划等方面都发生了质的变化，这也使得自动驾驶汽车面临新的安全挑战。

因此，自动驾驶汽车已经超出了传统汽车遵循的ISO 2功能安全标准的范围，还包括其他安全概念，例如信息安全。

中国软件测评中心智能网联汽车测试实验室专家认为，自动驾驶汽车的安全实际上至少有三个层次：驾驶行为安全、功能安全和信息安全。

这三个层次都有重叠，但又各有侧重。

驾驶行为安全主要是指自动驾驶的能力能否满足驾驶任务的需要，特别是在危险条件下；功能安全重点关注系统在随机故障下能否保证正常的行驶能力；信息安全是指系统在随机故障下能否保证正常的驱动能力。

能够抵抗外界的入侵。

从企业角度来看，也建立了较为完善的安全标准体系。

例如，Waymo的自动驾驶安全计划涵盖了5个安全领域。

行为安全，和人类驾驶员一样，必须遵守交通法规；功能安全，保证系统出现故障时安全运行；碰撞安全，发生碰撞时保护乘客的安全；操作安全，保证乘客与车辆交互时的安全舒适体验；无碰撞安全，从物理角度看人车交互，如电气系统和传感器等不能对人造成伤害。

● 自动驾驶汽车的安全威胁 对于自动驾驶而言，不同的对象对安全的理解是不同的。

比如，在电气工程师眼中，自动驾驶汽车的安全意味着“功能安全”，即即使出现问题如何让汽车安全行驶；在“程序员”眼中，安全意味着如何让汽车与黑客竞争；对于普通用户来说，说起安全性，似乎更直接，就是什么都不能发生。

当下最受关注的其实是自动驾驶汽车的“功能安全”。

和多科技创始人兼CEO倪凯认为，“对于自动驾驶来说，最重要的是‘功能安全’。

信息安全虽然与自动驾驶相关，但不仅仅针对自动驾驶。

”道路车辆的功能安全标准ISO 2主要是针对系统失灵/故障引起的问题，但对于自动驾驶来说，即使系统没有发生故障，也会因环境因素等不确定因素带来新的安全问题（包括其他车辆发生的事故）。

这涉及到新的安全标准——预期功能的安全性的规范，主要针对非系统故障引起的安全问题，弥补ISO 2未涵盖的部分。

从预期功能安全角度来看，自动驾驶系统的局限性主要来自三个方面：感知层，如无法对场景环境做出正确响应；决策层，如算法逻辑不合理、决策错误等；执行层层，无法根据决策正确或有效地执行。

执行层实际上是 OEM 和 Tier1 的专业知识。

例如，在底盘制动控制方面，博世推出了“iBooster+ESP”冗余设计方案，以提高安全性。

目前，自动驾驶系统的主要安全挑战在于感知层和决策层。

在“博世iBooster”的感知层，目前受到广泛关注的是天气变化和光照因素给摄像头、雷达、激光雷达等传感器带来的挑战。

这方面也需要通过技术升级来不断弥补。

例如，大陆集团和博世正在开发新一代激光雷达等产品。

中科慧眼创始人、副总经理崔峰也认为，环境感知是影响当前自动驾驶汽车安全性的主要因素之一。

“在环境感知方面，传感器性能受到材料、结构、加工技术等多方面的影响。

就国内发展而言，总体来说，这与我国在材料、光学等基础学科的实力有关。

这也和它的工业水平有关，尤其是它的高精度传感器。

”但从另一个角度来看，自动驾驶的成本也是企业的事情。

需要考虑的一个重要因素是，并非所有解决方案都会使用复杂的设备，因此这也是带来安全风险的因素。

激光雷达公司禾赛科技CEO李一凡曾提到，“任何试图走捷径、‘众包人类小白鼠’的低成本传感器解决方案都是无稽之谈，都是犯罪！”除了感知层之外，还与安全相关。

最重要的是决策层。

目前的人工智能水平明显不足。

训练算法不足以完全覆盖所有场景和突发事件。

自动驾驶汽车需要大量测试。

2016年，美国智库兰德公司给出了一个数字：道路测试里程需要达到1亿英里。

大量的道路测试以及后期的分类标定和数据处理仍然存在许多不确定因素。

目前，人类与人工智能的区别在于，人类拥有强大的迁移学习能力，可以处理从未遇到过的交通场景。

这也是AI需要重点关注的方向。

然而，人工智能的另一个问题在于神经网络的“黑匣子”。

输入数据并获得输出结果的过程无法解释。

也就是说，AI决策的过程不透明，无法调试（故障排除）。

自动驾驶汽车的不可控性。

不过，这方面已经有了一些突破，NVIDIA一度声称已经打开了“黑匣子”。

埃塞俄比亚航空事故发生时，外界普遍担心自动驾驶汽车是否会再次发生空难。

这实际上涉及到自动驾驶系统的仲裁逻辑问题。

传感器出现故障后，人与计算机争夺机器控制权就会发生冲突。

和多科技创始人兼CEO倪凯认为，自动驾驶汽车不会发生这种安全事故。

“在汽车行业，无论是辅助驾驶还是自动驾驶，共同的逻辑是，一旦人工智能接管，人类基本上就会对汽车拥有绝对的控制权（车辆底盘的底层执行器仍然有一些ECU功能，但他们不参与驾驶行为水平）。

也就是说，在汽车自动驾驶领域，人类驾驶员的控制权优先。

系统化，所以不会出现埃塞俄比亚航空事故中人类飞行员和计算机争夺控制权的情况。

虽然L4和L5有能力做到无需人类干预，但这并不意味着人类没有权利干预。

” ● 没有“绝对”的权利，安全只有“相对”的安全 “安全”始终是自动驾驶汽车商业化必须迈过的门槛。

用户最关心的问题可能是，随着当前频繁出现的自动驾驶车祸频发，安全何时能得到解决？ 《麦肯锡自动驾驶调查报告》麦肯锡曾在出行领域的专家中进行过一项调查，报告显示，安全性和可靠性是最重要的。

自动驾驶推广的另一大瓶颈，30%的受访者认为安全问题可能会在年内得到解决，而33%的受访者认为可能会在年内解决，36%的受访者认为可能会在年内得到解决。

可以看出，根据专家的意见，自动驾驶的安全问题大概率可以在年内基本得到解决，而且自动驾驶也不会因为这样就停止前进。

的一些事故。

技术成熟本身并不是一朝一夕就能实现的。

倪凯认为，“不仅仅是机器，人类的驾驶行为也面临着同样的问题。

例如，在极端情况下（汽车部件完全失效），自动驾驶和人类驾驶实际上都处于不安全的情况。

因此，我们必须正视安全的相对性，在开发自动驾驶系统时，必须保证即使汽车的某些部件出现故障，自动驾驶也能稳定、可靠、安全地解决问题。

“但从另一个角度来看，用户面临的安全威胁并不完全指望通过技术来解决。

目前主流车型仍然配备了L2及以下的辅助驾驶系统，人们仍然拥有绝对的控制权。

自从奥迪A8被作为率先搭载L3级自动驾驶技术的车企，宝马、吉利、广汽等车企均计划在同一时间实现L3级量产。

虽然L3相比L2是质的变化，但在L3自动驾驶技术下，用户仍然要保持对机器的监督。

这个层面的自动驾驶安全与不安全的问题更多的是人类驾驶行为是否“安全”。

同时，也有用户可能会疑问，自动驾驶的普及是否会给普通路人带来安全风险？目前，高端自动驾驶测试基本都是在封闭的测试场地进行，对用户不存在安全威胁。

自动驾驶技术的量产落地还取决于道路安全法规的完善和严格的制度要求。

并着手商业化。

事实上，在很多领域，安全本身就是一个专门的职业。

没有绝对的安全，只有相对的安全。

在不同的发展阶段，对安全也有不同的理解和要求。

基于现阶段的技术，某些场景下的安全性应该在合理的范围内最大化。

安全没有极限，不仅仅依赖于技术手段。

这是一个需要不断进化的过程。

一味鼓吹或泼冷水固非理性，但为了利益而放弃安全更不可取。

全文摘要： 起初，泰坦尼克号的悲剧震惊了世界。

这艘号称“不沉”的巨轮处女航“一去不复返”。

然而，研究人员后来发现，泰坦尼克号事件是“瑞士奶酪”情景的典型案例（几片瑞士奶酪，每片上的孔代表着可能出问题的东西，堆叠在一起，形成了一条危险的路径，穿过瑞士奶酪）。

孔的排列）。

汽车也是如此。

安全是一个广泛的概念，不仅限于技术或人为因素。

同时，安全始终是第一位的。

不管你在意与否，“安全”就在那里。