可解释强化学习通过显著图助力空中交通管制

空中交通管制员未来或许能获得一个能解释自身推理的AI的协助。2026年7月24日上传至arXiv的一篇新论文将可解释强化学习应用于简化的空中交通管制环境，训练一个RL智能体围绕禁飞区重新规划航班航线。研究人员随后使用显著图来突出显示哪些输入特征（例如到禁飞区的距离或接近角度）对每个决策影响最大，这种透明度与其他高风险领域（例如代理金融跟踪）中的应用存在相似之处。

作者认为，在航空等高风险领域建立对AI的信任至关重要，而可解释性是这种信任的关键部分。这项工作是第一步；环境是基础的，可解释性技术也是初步的，但它展示了如何使基于RL的航线规划变得透明。这项工作与神经符号推理和强化学习驱动的脑机接口的发展相呼应，在这些领域中，可解释性同样占据中心地位。更广泛地说，RL系统需要仔细设计奖励以避免不稳定性，这一问题在近期关于奖励崩溃的研究中得到了探讨。