拥抱还是要谨慎一点？

吴先生曾经乐观地宣称：“人工智能就是新的‘电’。“就像100年前电能几乎改变了所有的产业一样，今天我真的很难想象还有哪一个产业在未来的几年里不会被人工智能所改变。”这是个吸引人的比喻：不久，人工智能将像电一样，尽管我们看不到它，但它对于电子设备是十分必要的。电力电力和人工智能最大的不同是电力电力在被广泛商业化之前就已得到了充分的认识，我们对电力电力电力有很深的理解，而对目前许多人工智能系统的情况，我们还不够了解。

这样就会产生所谓的人工智能权力平衡(great AItrade-off)。难道我们应该拥抱人工智能系统，利用它的能力改善我们的生活，甚至帮助拯救生命，让这些系统得到更广泛的应用吗？还是考虑到人工智能目前存在的难以预见的错误、容易受到偏见和黑客攻击，以及缺乏透明度等特点，在制定决策时应该更加谨慎？对于不同的人工智能应用，人类需要参与到何种程度？为了完全信任人工智能，并且让人工智能自主工作，我们需要什么样的人工智能系统？虽然人工智能应用的应用越来越多，而且基于人工智能的未来应用(如自动驾驶汽车)在其诞生之初就备受推崇，但是这些问题仍然存在着激烈的讨论。

Pew Research Center的一项研究显示：对于这些问题，人们普遍缺乏共识，这是一个普遍存在的现象。在2018年， Pew的分析员从近千位相关人士中收集信息，包括技术先锋、创新者、研发人员、商业和政策领袖以及活动家，并要求他们回答以下问题：

您是否认为，到2030年，先进的人工智能及相关技术系统很有可能使人类变得强大并赋予人类力量？也就是在那个时候，大多数人能比现在过得好吗？或者说，先进的人工智能及相关技术系统很可能削减人类的自治和代理，从而使大多数人的情况不会比现在好吗？

被调查者有两种观点：63%的人认为人工智能在2030年的进步会改善人类的生活条件，而37%的人不这么认为。有一种观点认为人工智能可以有效地与全球贫困作斗争，大量减少疾病，并为大多数地球人提供更好的教育。有些人对未来有一个相当悲观的预测：自动化技术接管了大量工作，导致了人类失业；人工智能监控导致了侵犯公民隐私和权利的行为；不道德的自动化武器；不透明、不可信的计算机程序作出的未经审查的决定；种族和性别偏见扩大；大众媒体被操纵；网络犯罪增加，等等。一个被调查者说未来世界是“真实的，但是和人类没有关系”。

机械智能引发了一系列棘手的伦理道德问题，关于人工智能和大数据伦理的讨论已有几本书可写。为说明这些问题的复杂性，我将就一个目前已引起广泛关注的案例——人脸识别——进行深入探讨。