自动驾驶「道德算法」发表：平均分配事故风险，保护弱势道路使用者

当自动驾驶汽车遭遇突发状况，而司机又并没有准备好接管车辆，那么此时，基础算法决定了汽车的命运。

因此，自动驾驶汽车经常能遇到「应该撞向谁」的道德困境。通常，算法会两害相权取其轻。有一个例子经常被拿出来讨论，如果自动驾驶汽车直行会撞到前方的一名路人，但拐弯会撞到另一名路人，这种情况应该如何处理？

现在，研究人员提出了新的解决方案。

通常，交通事故都不是由单一的原因所造成的，因此，自动驾驶汽车的软件也必须做好应付现实世界各种状况的准备，在事故发生的瞬间快速做出决定。

为此，慕尼黑工业大学的研究人员开发了世界首个「道德算法」，旨在权衡不同行动对不同道路使用者所产生的风险，让自动驾驶汽车做出符合道德的决定，更好地保护行人和自行车等弱势道路使用者。

目前，这项研究已经发表在Nature Machine Intelligence上。

让算法做出道德判断

该论文的主要作者、慕尼黑工业大学科学家Maximilian Geisslinger表示，目前为止，自动驾驶车辆在遇到道德困境时总是需要做出非此即彼的选择，但现实中的交通状况并非总能一目了然，黑白分明。

他表示，「我们的算法将权衡各种风险，在不到一秒的时间里，从数千种可行方案中做出合乎道德准则的判断。」

该项研究对于自动驾驶汽车的未来方法至关重要。想要大规模推广落地自动驾驶技术，首先就要解决自动驾驶的道德和安全问题。

该软件中所用算法被认为是第一个纳入欧盟委员会（EU Commission）专家组20条伦理建议（he 20 ethics recommendations）的算法，因此可以做出比以往算法明显更具差异化的决策。

该算法结合了五项道德原则，即整体风险最小化、优先考虑状况最差的人、人人平等、责任平等和最大可接受风险。

为了将这些规则转化为数学计算，研究小组首先以车辆和行人将对他人造成的潜在风险和承担风险的意愿为基础，对行驶的汽车和行人进行了分类。

例如，一辆卡车将严重威胁到其他的道路交通参与者，但很多情况下，卡车本身只会收到轻微损害，而自行车的情况则与卡车相反。

自动驾驶的事故风险来自于驾驶环境的不确定性，包括环境因素、其他道路参与者的探测和定位以及车辆控制的不确定性。在新算法的开发过程中，研究人员重点关注自动驾驶轨迹规划中最重要的不确定因素之一：对其他道路使用者的轨迹预测。

研究人员将根据道路参与者的不同形态，计算其发生碰撞的概率。

为简化模型，研究人员明确排除了某些因素，例如受伤的严重程度。算法将不会考虑危及性命的伤害和让生活质量下降的伤害哪种更为严重。

同时，车速对于车祸的影响也不在研究人员的考虑范围之内，因为其与道德评价无关。

研究人员将重点关注碰撞双方的重量、碰撞的角度和碰撞发生的面积。

在计算事故损失时，算法将不考虑任何财产损失，而是会将人身伤害放在第一位。

为了确保算法的公平，算法模型也不会涉及到个人特征，如年龄、性别、生活质量等。

此前，政府设置了一系列交通规则来控制道路风险，例如限速、限制车辆间的最小安全距离等。在新算法中，研究人员引入了「最大可接受风险」的概念，并且基于此概念对于行驶轨迹进行了分级。自动驾驶汽车将优先选择最高安全等级的行驶路线，只有在最高等级路线走不通时，才会采用下一个等级。

在所有的突发状况中，自动驾驶算法所做出的选择都不会超过所有道路参与者的最大可接受风险。在算法的规划下，自动驾驶汽车的行驶线路不仅符合车主的利益，同时也兼顾了其他道路参与者的利益。

该算法的另一个亮点是对于风险的平均分配。算法将采用平等原则，为每个道路参与者平均分配风险，不会以牺牲某一方个体为代价来换取整体事故的低风险。

除此之外，算法将综合考虑自动驾驶汽车的机动性、安全性和舒适性。这三者之间存在一定的冲突，但算法将对此进行衡量，为自动驾驶汽车提供行驶的最优解。

在事故责任划分方面，研究小组有意识地考虑到了行人的责任，例如行人应该主动遵守交通规则。这样可以避免路人故意冲到行驶中的自动驾驶汽车前，滥用自动驾驶汽车的防撞制动系统。

在此之前，遇到突发的紧急情况，自动驾驶汽车可实施的操作极其有限。大多数情况下，自动驾驶只会简单制动。现在，研究人员在代码中考虑到了风险评估，让自动驾驶汽车拥有了更大的操作自由度。

举个例子，一辆自动驾驶汽车想要超过前方的一辆自行车，与此同时，对面车道上一辆卡车正在驶来。

在新算法中，周边环境和所有的道路参与者都会被考虑到。能否在不驶入对面车道的情况下超车，同时与自行车保持安全距离？各车辆面临着哪些潜在风险？这些车辆对于自动驾驶汽车将产生什么影响？

在形势明朗之前，自动驾驶汽车不会轻举妄动，做出任何带有侵略性的行为，也不会突然刹车停止行驶。新算法将不再局限于「是」或「否」的决定，而是会谨慎评估大量信息，从而使所有的道路参与者都能接受自动驾驶汽车行为所带来的风险。

慕尼黑工业大学的商业伦理科学家Franziska Poszler表示，迄今为止，自动驾驶汽车所做出的的道德决定都基于传统伦理理论，这最终导致自动驾驶汽车的发展进入了一个死胡同。

在很多交通事件中，除了违反某条道德准则以外，车辆别无选择。而新算法与此相反，它将风险伦理视为算法的核心考虑因素，这样既能考虑到各种可能性因素，也能帮助自动驾驶汽车做出有别于之前的判断评估。

研究人员强调，尽管基于风险伦理的算法可以让自动驾驶汽车在各类事件中做出尽可能的安全的决策，但算法并不能杜绝交通安全事故。

在未来，算法还将考虑到不同国家的道德伦理文化差异。同时，研究人员将进行用户调研，了解不同人群做出道德决策的个体差异。这些数据都将让算法更加精确。

到目前为止，算法已经在模拟环境中进行了验证。未来，研究人员将在现实交通环境中进一步测试算法，不断提升算法的实际可行性。

参考链接：

https://www.sciencedaily.com/releases/2023/02/230205081301.htm