伦理与负责任的AI

伦理与负责任的AI

你几乎已经完成了这门课程，我希望到现在为止你已经清楚地认识到，AI 基于一些正式的数学方法，这些方法使我们能够从数据中找到关系并训练模型以复制人类行为的一些方面。在当今的历史阶段，我们认为 AI 是一种非常强大的工具，可以从数据中提取模式，并将这些模式应用于解决新问题。

课前测验

然而，在科幻小说中，我们经常看到AI对人类构成威胁的故事。通常这些故事围绕着某种形式的AI叛乱，当AI决定对抗人类时。这暗示了AI具有某种情感或可以做出其开发者未曾预料到的决策。

我们在本课程中学到的那种AI不过是大型矩阵运算。它是一种非常强大的工具，可以帮助我们解决问题，而且和其他任何强大工具一样——它可以用于好的目的也可以用于坏的目的。重要的是，它可能会被滥用。

负责任AI的原则

为了避免这种意外或故意的AI滥用，微软提出了重要的负责任AI的原则。以下概念支撑这些原则：

• 公平性与模型偏差这一重要问题相关，这可能是由于使用了有偏见的数据进行训练导致的。例如，当我们尝试预测一个人获得软件开发人员工作的概率时，模型很可能会更倾向于男性——仅仅是因为训练数据集很可能偏向于男性受众。我们需要仔细平衡训练数据并调查模型以避免偏差，确保模型考虑更多相关的特征。
• 可靠性和安全性。由于其本质，AI模型可能会犯错。神经网络返回概率，我们在做决策时需要考虑到这一点。每个模型都有一定的精度和召回率，我们需要理解这一点以防止错误建议造成的伤害。
• 隐私和安全有一些AI特有的含义。例如，当我们使用某些数据来训练模型时，这些数据会“融入”到模型中。一方面，这增加了安全性和隐私性；另一方面，我们需要记住模型是基于哪些数据训练的。
• 包容性意味着我们不是在建造AI来替代人，而是增强人的能力，使我们的工作更有创造性。这也与公平性有关，因为在处理代表性不足的社区时，我们收集的大多数数据集可能都是有偏见的，我们需要确保这些社区被包含并正确处理。
• 透明度。这包括确保我们始终明确说明正在使用的AI。此外，尽可能多地使用可解释的AI系统。
• 问责制。当AI模型得出某些决策时，通常不清楚谁应该对这些决策负责。我们需要确保我们了解AI决策的责任所在。在大多数情况下，我们会希望将人类纳入做出重要决策的循环中，以便实际的人类承担责任。

负责任AI的工具

微软开发了负责任AI工具箱，其中包含一系列工具：

• 解释性仪表板（InterpretML）

• 公平性仪表板（FairLearn）

• 错误分析仪表板

• 负责任AI仪表板，其中包括

  • EconML - 因果分析工具，专注于假设性问题
  • DiCE - 反事实分析工具，允许你查看需要改变哪些特征以影响模型的决策

有关AI伦理的更多信息，请访问这节课，该课程属于机器学习课程的一部分，包括作业。

复习与自学

请通过这条学习路径进一步了解负责任的AI。

课后测验

声明:
本文件灏天文库团队进行了翻译。尽管我们力求准确，但请注意，翻译可能包含错误或不准确之处。原文档以其原始语言为准。我们不对因使用此翻译而产生的任何误解或误译负责。