研究人员需要承担责任并将人工智能引导到正确的道路上

本文由Rehoo团队Leery原创，无授权禁转!(图片来自网络)

如今，人工智能(ai)系统经常被用于支持众多应用中的人类决策。ai可以帮助医生了解数百万患者记录; 农民确定每株植物需要多少水; 和保险公司更快地评估索赔。ai精准消化大量数据，以提供宝贵的见解和知识。然而，人工智能系统的广泛采用不仅仅来自于这些好处。人工智能的许多不断扩展的应用可能对人，社区或组织产生重大影响，因此我们能够信任其产出至关重要。获得这种信任需要什么?

确保我们负责任地开发和部署人工智能系统需要许多利益相关者(包括政策制定者和立法者)之间的合作，但是为了信任而制定人工智能必须从科学开始。作为技术提供商，我们有能力和责任开发和应用技术工具来设计值得信赖的ai系统。我相信像诸多研究人员需要承担责任并将人工智能引导到正确的道路上。这就是为什么在下面概述了我们应该如何处理这个问题。

要相信人工智能系统，必须对其决策充满信心。需要知道一个决定是可靠和公平的，它可以被解释，并且它不会造成伤害。我们需要确保它不会被篡改并且系统本身是安全的。可靠性，公平性，可解释性，稳健性和安全性是可信ai的基础。然而今天，随着我们开发新的ai系统和技术，主要使用测试/训练准确性，交叉验证和成本，效益比等指标来评估它们。在监控使用情况和实时性能，但我们不会设计，评估和监控信任。为此我们必须首先将可信ai的维度定义为科学目标，然后制定工具和方法，将它们集成到ai解决方案开发过程中。必须学会超越准确性，并在每个维度上测量和报告系统的性能。让我们仔细研究一下我们可以使用的工程“工具包”的四个主要部分，以便为ai提供信任。

人工智能系统中的偏见问题最近在技术界和公众中引起了极大的关注。如果我们想鼓励采用人工智能，那么必须确保它不会消除我们的偏见和不一致，然后更广泛地扩展它们。研究界在理解偏见如何影响ai决策方面取得了进展，并且正在创建检测和减轻ai应用程序生命周期偏差的方法:培训模型; 检查偏差的数据，算法和服务; 如果检测到，则处理偏差。虽然还有很多工作要做，但在设计，测试，评估和部署ai解决方案时，我们可以开始采用偏差检查和缓解原则。

对于大型数据集，神经网络是ai开发人员和数据科学家的首选工具。虽然深度学习模型可以表现出超人类的分类和识别能力，但是通过添加少量噪声(通常是人类无法察觉的)，它们很容易被愚弄成尴尬和错误的决定。在软件系统中暴露和修复漏洞是技术社区首要处理的工作。最近，该领域的研究大量增加:不断发现新的攻击和防御; 正在开发新的对抗性训练方法，以加强抵御攻击和新的衡量标准以评估稳健性。我们正在接近一个点，我们可以开始将它们集成到通用ai DevOps流程中，以保护和保护围绕它们构建的逼真的生产级神经网络和应用程序。

最近讨论最前沿的另一个问题是担心机器学习系统是“黑匣子”，并且许多最先进的算法产生难以解释的决策。大量新研究工作提出了一些技术，可以在不影响其准确性的情况下提供黑盒模型的可解释源。这些包括模型的局部和全局可解释性技术及其预测，使用可产生可解释模型的训练技术，可视化神经网络中的信息流，甚至教授解释。我们必须将这些技术融入ai模型开发和DevOps工作流程中，以便为开发人员，企业工程师，用户和领域专家提供各种释义。

人类对技术的信任是基于我们对其工作原理的理解以及对其安全性和可靠性的评估。信任系统以做出正确的决定。在这两种情况下，由于系统培训，详尽的测试，经验，安全措施和标准，最佳实践和消费者教育，信任来自于系统不会出错的信心。许多这些安全设计原则适用于ai系统的设计; 有些必须进行调整，新的必须进行定义。例如，如果在复杂环境中遇到全新的情况，我们可以将ai设计为需要人工干预。而且，正如我们使用药品和食品的安全标签或计算机硬件中的安全数据表一样，我们可能会开始看到类似的方法来传达ai服务或解决方案的功能和限制。

每次引入新技术时，都会产生新的挑战，安全问题和潜在的危险。随着技术的发展和成熟，这些问题得到了更好的理解和逐步解决。例如，当首次引入药品时，没有安全测试，质量标准，儿童防护或防篡改包装。人工智能是一项新技术，将经历类似的发展。近年来，在技术ai能力方面取得了非凡的进步。开发更好，更强大的ai的竞赛正在进行中。然而，我们的努力不能仅仅是为了进行令人印象深刻的ai演示。我们应该投资能够使ai不仅聪明，而且负责任的能力。

随着我们不断进步，要相信人工智能技术的研究人员，工程师和设计师应该与来自各个学科的用户，利益相关者和专家合作，以了解他们的需求，不断评估算法决策的影响和影响，分享调查结果，结果和想法，并以开放和敏捷的方式主动解决问题。我们可以共同创建激发完美的人工智能解决方案。

共创绿色家园 加快物联网布局监控环境治理领域

震惊世界!欧洲核子研究中心发布百公里长新型粒子对撞机计划

无处可逃 物联网和预测软件如何捕获犯罪分子

设计信任1.公平2.决策3.解释算法决策4.安全以敏捷和开放的方式发展ai