MIT与Motional开发新系统有助于预测自动驾驶汽车的错误

盖世汽车讯 自动驾驶汽车通常由深度学习模型控制，但这些模型有时会在意外情况下出现故障。例如，汽车可能会莫名其妙地刹车，阻挡迎面驶来的紧急车辆。此时，驾驶员或乘客可能需要迅速做出反应以避免碰撞。

据外媒报道，为了帮助人们更好地预测车辆的失误，麻省理工学院和自动驾驶技术公司Motional的研究人员开发了一种新方法，可以清晰地解释底层模型的决策过程。

通常，深度学习模型的内部推理过程晦涩难懂。但这种名为概念包装网络的新方法，可以将推理过程转化为概念，这些概念能够忠实地描述自动驾驶汽车的决策，而不会影响其驾驶性能。

CW-Net使用易于理解的概念来解释基于机器学习的规划器的决策。这些解释可以纠正驾驶员和乘客对车辆行为的误解，并提高他们的情境感知能力。

在私人赛道上进行的道路测试中，CW-Net的解释帮助安全驾驶员更准确地预测车辆行为；一项针对非专业用户的大型模拟研究也得到了类似的结果。这些实验表明，CW-Net可以为工程师在排查车载人工智能系统故障时提供重要的反馈。从长远来看，这项技术可以提高自动驾驶车辆的安全性和透明度，同时建立驾驶员和乘客对车辆的信任。

“这项研究表明，解释如何有助于人类构建心智模型并理解系统的行为，以及如何将其应用于工程和开发中以改进技术，”麻省理工学院航空航天学教授、计算机科学与人工智能实验室交互式机器人小组主任、CW-Net论文的共同资深作者Julie Shah表示。“除非我们构建这些技术的方式能够让我们信赖并预测其行为，否则它们的使用基础将是不稳固且不安全的。”

该论文的另一位共同作者是第一作者Eoin Kenny，他曾是麻省理工学院的博士后，现在是摩根大通的高级人工智能研究员；共同资深作者是Momchil Tomov，他是Motional公司的一名研究科学家。以及Motional团队成员Akshay Dharmavaram、Sang Uk Lee、Tung Phan-Minh、Shreyas Rajesh、Yunqing Hu和Motional总裁兼首席执行官Laura Major。该研究成果今日发表于期刊《Nature》。

忠实的解释