人工智能和人权:我们需要谈谈使用阶段

随着商业、政府和公民社会在解决人权取得进展的影响和引发的伦理问题使用人工智能(AI),我们相信,一个极为重要的选民需要更积极地参与活动:“非技术”公司将人工智能集成到他们的业务操作,策略和计划。

如果没有这些参与者，有关人工智能和人权的对话可能会过于关注人工智能的发展，而对部署人工智能的公司关注不足。我们这篇博客的目的就是解释其中的原因。

8月，BSR出版三份报告阐述采用以人权为基础的方法来发展、部署和使用人工智能的重要性。从那时起，我们在与美国BSR成员公司的合作中实践了这一建议,Asia, and Europe to develop policies on AI and human rights, engage with civil society organizations and undertake human rights due diligence of AI solutions. We’ve had the opportunity to consider a wide range of scenarios — including algorithmic decision making, facial recognition and sentiment analysis — as well as a wide variety of application areas, including retail, national security, human resources and transportation systems. As can be imagined for technologies that are evolving so rapidly, it’s been a time of extraordinary learning.

在许多方面，这项工作证实了存在的主要假设，即科技公司如何履行责任，尊重其产品和服务的使用所产生的人权影响。在许多情况下，我们的建议都围绕着一些共同的主题:仔细检查培训数据的质量;检查你向谁销售产品和服务，并拒绝向最可能滥用这些产品和服务的人销售;建立可接受的使用政策，对产品和服务的使用方式加以限制。我们还建议采用全系统的方法，例如倡导保护权利的法律和法规，增加信息披露和透明度，并为用户提供最佳实践指导。

这些都是科技公司承担的重要责任，接下来的内容不应该有其他的暗示。然而,我们发现共同的主线贯穿这些建议是科技企业的概念应该使用他们的影响力来阻止滥用产品、服务和技术通过影响别人的行为,不管有多少工作部署,没有成功的保证。

今天作出的关于部署人工智能的决定将对今后很长一段时间内实现人权带来重大影响。

这一观察让我们想到一个简单的问题:除了试图影响他人的行为，我们难道不应该更直接地与直接部署人工智能的公司、政府和组织合作吗?联合国方面的指导原则对商业和人权,为什么我们花大部分的时间与贡献的公司合作,或直接与人权影响,和更少的时间可能会导致他们的公司工作吗?

• 在零售业，商店正在部署防盗窃的人工智能，尤其是对脆弱人群和边缘群体，造成新的隐私、安全和歧视风险。
• 在运输业，好用的买球外围app网站航空公司和机场在登机和安检过程中都采用了面部识别技术，提出了同意和非歧视的重要问题。
• 在汽车行业，汽车公司是收集比以往任何时候都多的位置数据，并与政府分享，引发了有关汽车公司是否应该与科技公司一起发布执法关系报告的新问题。
• 在酒店行业，面部识别技术已被广泛应用简化签入流程，影响行动自由等权利。

所有这些行业的公司都应该采取基于人权的方法来使用人工智能。

我们去年发表的关于以人权为基础的人工智能方法的重要性的三份报告中的第二份预测了这些问题。在报告中，我们列出了在金融服务、医疗保健、零售、交通、农业和采掘业中使用人工智能所带来的人权风险和机会，并建议对每个行业进行全行业的影响评估。好用的买球外围app网站一年过去了，我们在这一观点上投入了双倍的努力，例如在我们最近参加联合国儿童基金会的时候Skoll世界论坛,巴黎可持续发展的品牌和我们自己的BSR连接事件。

决定今天的部署AI会带来重大影响的实现人权长到未来——这意味着进行尽职调查的AI在所有行业是一种紧迫感和不可以推迟到遥远的未来。我们加入了伙伴关系在人工智能，我们期望与资讯科技及BSR成员公司更紧密合作，评估他们使用人工智能所带来的人权影响，以实践这一观点。