但有两个难题需要解决。第一，道德两难。例如，如果没有及时刹车，自动驾驶汽车向前行驶时会撞到三个闯红灯的人，但是如果转向时撞到障碍物，则会撞到车里的五个人。这时应该如何选择车辆？当面临类似电车困境的问题时，功利主义和绝对主义会给出不同的道德选择，而这一冲突在人类社会都无法解决，在自动化环境中也会遇到。

第二，价值对接问题。如今许多机器人只有一个用途，扫地机器人会一心一意的扫地，服务机器人会一心一意的为你端咖啡，等等。但是机器人的行为真的是人类所希望的吗？由此产生了价值对接问题。正如米达斯国王想要点石成金的技巧一样，结果当他拥有这个法宝时，他所遇到的一切，包括食物，都会变成金子，最后却被活活饿死。怎么了？由于这件法宝并不能理解米达斯国王的真实意图，所以机器人能给我们人类带来类似的情形吗？这问题值得认真考虑。因此，一些人提出了兼容人类的 AI，包括三个原则：第一，利他主义，即机器人的唯一目标是使人的价值实现最大化；第二，不确定性，即机器人在开始时不确定人的价值是什么；第三，考虑人，即人的行为提供有关人的价值的信息，从而帮助机器人确定人希望得到的价值。

第二， AI研发应遵循伦理原则。另一方面，为了应对 AI研究与开发活动，研究与开发人员需要遵守一些基本的伦理规范，包括益处、无害、包容的设计、多样性、透明度和隐私保护等。而 AI技术的伦理审查应具有跨学科、多种多样的特点，对 AI技术和产品的伦理影响进行评价，并提出建议。

第三，要加强对算法的监管，防止算法的恶意。如今，算法的确越来越复杂，包括决策影响也越来越大，未来可能需要规范算法。可采用的管理措施包括：涉及分类、性能标准、设计标准、责任标准等等；透明度方面，包括算法本身的代码透明度和算法决策透明度，目前国外已有一些开源人工智能运动，如 OpenAI。另外，还有审批系统，如针对自动驾驶汽车、智能机器人等所采用的算法，将来可能需要监管机构来执行