人工智能副驾驶提高人类精度，实现更安全的航空

想象一下，你在一架有两名飞行员的飞机上，一名是人类，一名计算机。两者都有他们的“手”在控制器上，但他们总是在寻找不同的东西。如果他们都关注同一件事，人类就可以转向。但是，如果人类分心或错过了某些东西，计算机就会迅速接管。

认识空气卫士，这是麻省理工学院计算机科学和人工智能实验室（CSAIL）的研究人员开发的系统。当现代飞行员努力应对来自多个监视器的信息冲击时，尤其是在关键时刻，Air-Guardian 充当了主动的副驾驶;人与机器之间的伙伴关系，植根于理解注意力。

但它究竟是如何决定注意力的呢？对于人类来说，它使用眼动追踪，而对于神经系统来说，它依赖于一种叫做“显著性图”的东西，它可以精确定位注意力被引导到哪里。这些地图可作为视觉指南，突出显示图像中的关键区域，帮助掌握和破译复杂算法的行为。Air-Guardian通过这些注意力标记识别潜在风险的早期迹象，而不是像传统的自动驾驶系统那样仅在安全漏洞期间进行干预。

该系统的更广泛影响超出了航空领域。有朝一日，类似的合作控制机制可能会用于汽车、无人机和更广泛的机器人技术。

“我们方法的一个令人兴奋的特征是它的可区分性，”麻省理工学院CSAIL博士后Lianhao Yin说，他是一篇关于Air-Guardian的新论文的主要作者。“我们的合作层和整个端到端流程都可以接受培训。我们特别选择了因果连续深度神经网络模型，因为它在映射注意力方面的动态特征。另一个独特的方面是适应性。空气守护者系统并不僵化;它可以根据情况的需求进行调整，确保人与机器之间的平衡伙伴关系。

在现场测试中，飞行员和系统在导航到目标航点时都根据相同的原始图像做出决策。Air-Guardian的成功是根据飞行期间获得的累积奖励和到航点的较短路径来衡量的。监护人降低了飞行的风险水平，提高了导航到目标点的成功率。

“该系统代表了以人为本的人工智能航空的创新方法，”麻省理工学院CSAIL研究附属机构兼液体神经网络发明者Ramin Hasani补充道。“我们使用液体神经网络提供了一种动态的自适应方法，确保人工智能不仅取代人类判断，而且补充它，从而提高空中的安全性和协作。

Air-Guardian的真正优势在于其基础技术。它使用基于优化的协作层，使用来自人和机器的视觉注意力，以及以其在破译因果关系方面的能力而闻名的液体封闭式连续时间神经网络（CfC），分析传入图像以获取重要信息。与此相辅相成的是VisualBackProp算法，该算法可识别图像中的系统焦点，确保清楚地了解其注意力图。

对于未来的大规模采用，需要改进人机界面。反馈表明，指示器（如条形图）可能更直观地表示监护人系统何时控制。

Air-Guardian预示着一个更安全的天空的新时代，为人类注意力动摇的时刻提供了可靠的安全网。

“Air-Guardian系统突出了人类专业知识和机器学习之间的协同作用，进一步实现了使用机器学习在具有挑战性的场景中增强飞行员并减少操作错误的目标，”麻省理工学院电气工程和计算机科学的Andrew（1956）和Erna Viterbi教授Daniela Rus说，CSAIL主任，该论文的资深作者。

“在这项工作中使用视觉注意力指标最有趣的结果之一是有可能允许人类飞行员进行早期干预和更大的可解释性，”哈佛大学计算机科学助理教授Stephanie Gil说，他没有参与这项工作。“这展示了如何使用人工智能与人类合作的一个很好的例子，通过使用人类和人工智能系统之间的自然通信机制，降低了实现信任的障碍。

这项研究部分由美国空军（USAF）研究实验室，美国空军人工智能加速器，波音公司和海军研究办公室资助。调查结果不一定反映美国政府或美国空军的观点。