人工智能的不断进步和广泛应用所带来的益处是巨大的。但要使人工智能对人类社会真正有益，我们也不能忽视它背后的伦理问题。当今人工智能世界更多的是工程师的参与，缺乏哲学、伦理学、法学等其他社会学科的参与，未来需要进行跨学科人工智能伦理测试。当今人工智能发展迅速，人类在围棋、图象识别、语音识别等领域开始落后于人工智能，对人工智能的伦理测试也同样重要，道德编码、隐私、公正、有益、安全、责任等方面都很重要。

加速的人工智能时代和算法决策的兴起

AI (以下简称 AI)第三次浪潮已经开启。从技术上说，是算法的进步。1956人工智能诞生之初，人们更多地谈论人工智能；在第二波浪潮中，机器学习成为主流；而这次，是深度学习，是自我学习的学习算法，自编程序，可用于处理更复杂的任务。另外，计算能力的提高，包括现在的量子计算机，以及日益普及的大数据，对于人工智能的作用和价值也非常巨大，使得更复杂的算法成为可能。从语音识别、机器翻译到医疗诊断、自动驾驶， AI应用正在深化和成熟，甚至已经开始超越人类，这引起了人们对失业的担忧。它还使人们开始期望最终算法具有普遍的智能。从业务层面来看，面对可预期的利益和风险，腾讯、谷歌等国内外主流互联网公司都开始向 AI看齐， AI领域的创业和投资如火如荼。目前世界上已有1000多家 AI公司，市场规模增长空间很大，未来8年将达到350亿美元。

正是在这样的背景下，互联网服务领域出现了越来越多的人工智能，人们越来越多地生活在算法之下，算法决策开始介入并主导越来越多的人类社会事务。例如，人们在因特网上获得的内容，如新闻、音乐、视频、广告等，以及购买的商品，都是由推荐引擎向用户个性化推荐的，而没有任何人在背后做出决定。例如，在金融领域，算法可以决定是否向特定用户提供贷款，以及特定的贷款额度。另外，美国一家投资公司早在几年前就开始研究和开发管理公司的 AI系统，企业事务如招聘、投资、重大决策等都由该 AI系统进行管理和决策。或许在未来，一家公司的成功不再主要取决于 CEO的能力，而是取决于一个足够聪明、足够强大的 AI系统。此外，英国、欧盟等国家正在大力推进人工智能技术在政府管理和民生领域的深入应用，政府服务不仅数字化，而且智能化。

四是机器人权利，即 AI的人道主义待遇应该如何定义。当自主智能机器人变得越来越强大时，它们在人类社会中究竟起着什么作用？法律上究竟什么是自主智能机器人？个人？公司？动物？物品？能不能虐待，折磨，杀死一个机器人？欧盟正在考虑是否给予智能机器人“电子人类”合法人格，规定其权利义务并对其行为负责。这是一个值得深入探讨的问题。更重要的是，越来越多用于教育、护理、服务等领域的机器人，用于照顾儿童、老人和病人，这些交互作用对人类行为的影响还有待进一步研究。

建立算法治理内外部约束机制

第一，合伦理的 AI设计，即在 AI系统中嵌入人类社会的法律、道德等规范和价值。它主要是电气和电子工程师协会，是英国的等等。可通过三个步骤来实现。首先是发现 AI系统需要嵌入的规范和价值，存在道德过载和价值位阶的问题，即什么价值最重要，什么价值最落后。将发现的规范和价值引入到 AI系统中，需要方法学，需要从上到下和从下到上的方法学。第3步是评估已经嵌入 AI系统的规范和价值，看它们是否与人类社会一致。首先是用户评估，它要求建立对 AI的信任，例如在 AI系统行为超出预期时向用户解释其原因。另外还有主管部门、行业组织等第三方评估机构，需要确定价值的一致性和一致性标准，以及 AI的可信度标准。