人工智能是一股向善的力量吗

斯科特·坎贝尔是联合国人权办的高级人权干事，负责数字技术方面的工作。近日，坎贝尔随同联合国人权事务高级专员福尔克尔·蒂尔克前往美国硅谷。在访问中，蒂尔克敦促科技巨头、学术界和国家代表“将人类能动性和人类尊严重新放到数据密集型数字技术的中心位置”。坎贝尔分享了他对新技术带来的复杂巨变的看法，以及如何使人权成为促进负责任商业行为、保护用户权利、追究公司和国家责任的框架。

公众对数据密集型数字技术的关注点似乎正在从隐私问题转向错误信息和虚假信息、仇恨言论、歧视等问题。随着人工智能的应用，一些职业正在逐渐被淘汰，甚至将被彻底奴役。我们是否应该为此忧心？如果是，我们真正应该担忧什么？

我们有充分的理由感到担忧，但与此同时，我并不认为我们应该惊慌失措。对于人工智能的诸多风险，我们应该保持冷静和反思的态度。我们确实看到媒体经常把人们的注意力从人工智能的一种潜在风险转移到另一种潜在风险上，有点类似“分散注意力的政治手段”。有些媒体关注反乌托邦未来，有些则关注虚假信息和人工智能的影响，因为今年是全球“选举大年”。对联合国人权办和其他数字技术相关行为体来说，重要的是持续关注技术对广泛人权构成的风险，不要被分散注意力，同时要认识到，例如，利用人工智能增强后的监测能力是一个真实、持续和日益增长的风险。我们的隐私权不断受到威胁——例如，我们在社交媒体和其他数字技术上的数据隐私无时无刻不受到威胁。

我们需要关注数字技术和人工智能对人权造成的风险，特别是人工智能在许多领域以及对那些因性别、种族和其他原因被边缘化的群体可能造成的歧视性结果。如何审核在线内容，以及社交媒体公司如何使用或不使用人权作为其在线内容政策的指导，这些都是我们当前工作的重点。

科技如何成为一股向善的力量？我们能依靠科技公司做正确的事吗？

我们可以看到利用人工智能和技术的巨大潜力：提高农业产量、增加受教育机会（尤其是对残疾人而言）、获得健康信息或享有更好的医疗成果、提高工作效率……这其中蕴含着巨大的潜力。然而，对于你提出的“我们是否应该依靠科技公司做正确的事”这一问题，答案很明确：绝对不应该。我们既需要监管，也需要严格的法律来约束科技公司，这样才能实现技术为善，并保护我们免受潜在的人权伤害。

与此同时，通过将联合国《工商企业与人权指导原则》应用到它们正在做的事情中，科技公司现在就应该而且能够做到很多事情，包括设计、开发和推出特定政策或产品，并对其进行人权尽职调查和具体人权影响评估。

人权如何成为科技公司的道德指南针？

人权不仅仅是道德指南针。国际人权法对各国政府具有约束力，并赋予其明确的义务，这些义务应转化为法规和法律，以确保科技公司的服务和产品尊重人权。

联合国《工商企业与人权指导原则》是不具约束力的原则，但这些原则正被越来越多地被纳入立法和法规，人们也越来越期待企业在开展业务时落实这些原则。这意味着科技公司在设计新产品、推出新产品，以及就其产品造成的人权伤害作出回应时，提供相应的补救措施。