10.1 可解释性与可信赖性

文档摘要

10.1 可解释性与可信赖性 10.1 可解释性与可信赖性：拨开迷雾，构筑信任基石在多智能体系统（MAS）日益普及的今天，我们见证了它们在交通管理、资源分配、协同作战等多个领域的卓越表现。然而，伴随而来的复杂性也带来了新的挑战：我们如何理解这些智能体做出的决策？又如何确保它们值得信赖？本章节将深入探讨MAS中可解释性与可信赖性的重要性，剖析当前面临的挑战，并展望未来的发展方向。 10.1.1 缘何需要可解释性与可信赖性？想象一下，一个由无人驾驶汽车组成的MAS负责城市交通的调度。突然，其中一辆车做出了一个看似违反交通规则的决策，导致交通拥堵。如果没有可解释性，我们可能永远无法理解这辆车做出该决策的原因。是传感器故障？还是为了避免更严重的事故？