自动驾驶汽车安全问题的探讨
来源:
|
作者:admin
|
发布时间: 2021-04-10
|
1215 次浏览
|
分享到:
几十年来，机器人车辆一直在危险的环境中使用，从让福岛核电站退役，到检查北海的水下能源基础设施。最近，从船舶到杂货送货车的自动驾驶汽车，已经从研究中心缓慢地过渡到现实世界，几乎没有出现什么问题。然而，无人驾驶汽车的承诺尚未超越测试阶段。在2018年的一次优步自动驾驶汽车测试中，一名行人被车撞死。虽然这些事故每天都有人类驾驶，但公众对无人驾驶汽车的安全标准要高得多，将一次性事故解释为这些车辆太不安全，不适合在公共道路上行驶。
几十年来，机器人车辆一直在危险的环境中使用，从让福岛核电站退役，到检查北海的水下能源基础设施。最近，从船舶到杂货送货车的自动驾驶汽车，已经从研究中心缓慢地过渡到现实世界，几乎没有出现什么问题。
然而，无人驾驶汽车的承诺尚未超越测试阶段。在2018年的一次优步自动驾驶汽车测试中，一名行人被车撞死。虽然这些事故每天都有人类驾驶，但公众对无人驾驶汽车的安全标准要高得多，将一次性事故解释为这些车辆太不安全，不适合在公共道路上行驶。
设计一辆完美的自动驾驶汽车，让它永远做出最安全的决定，是一项巨大的技术任务。其他自动驾驶汽车通常是在严格控制的环境中推出的，而自动驾驶汽车必须在无穷无尽的不可预测的道路网络中运行，快速处理许多复杂的变量，以保持安全。
在《公路法规》的启发下，我们正在制定一套规则，帮助自动驾驶汽车在所有可能的情况下做出最安全的决定。验证这些规则是否有效是我们必须克服的最后一个障碍，以便让值得信赖的自动驾驶汽车安全地上路。
科幻小说作家艾萨克·阿西莫夫在1942年写下了《机器人三定律》。第一条也是最重要的一条法则是:“机器人不得伤害人类，也不得坐视人类受到伤害。”当自动驾驶汽车伤害人类时，它们显然违反了第一条定律。
我们在国家机器人馆(National Robotarium)领导了一项旨在确保自动驾驶汽车始终遵守这一法律的研究。这样的保证将为阻止自动驾驶汽车在全球普及的非常严重的安全问题提供解决方案。
人工智能软件实际上很擅长学习它从未遇到过的场景。利用从人脑布局中获得灵感的“神经网络”，这类软件可以识别数据中的模式，比如汽车和行人的动作，然后在新的场景中回忆这些模式。
但我们仍然需要证明，传授给自动驾驶汽车的任何安全规则都能在这些新的场景下发挥作用。要做到这一点，我们可以求助于形式验证:计算机科学家用来证明规则在所有情况下都有效的方法。
在数学中,例如,规则可以证明x + y = y + x没有测试所有可能的值x和y。正式的验证也会做类似的事情:它让我们证明人工智能软件将如何应对不同的场景,而不用我们详尽测试每一个场景可能发生在公共道路上行驶。
该领域最近比较引人注目的成功之一是验证了一个使用神经网络来避免自动驾驶飞机之间碰撞的人工智能系统。研究人员已经成功地正式验证了该系统将始终正确响应，无论涉及的飞机水平和垂直机动。
