展会官网(预登记)
/
/
/
AI监管——深圳市人工智能行业协会
分类导航 Nav

AI监管——深圳市人工智能行业协会

  • 分类:新闻动态
  • 作者:
  • 来源:
  • 发布时间:2021-03-26 10:14
  • 访问量:

【概要描述】为了应对 AI研究与开发活动,研究与开发人员需要遵守一些基本的伦理规范,包括益处、无害、包容的设计、多样性、透明度和隐私保护等。而 AI技术的伦理审查应具有跨学科、多种多样的特点,对 AI技术和产品的伦理影响进行评价,并提出建议。

AI监管——深圳市人工智能行业协会

【概要描述】为了应对 AI研究与开发活动,研究与开发人员需要遵守一些基本的伦理规范,包括益处、无害、包容的设计、多样性、透明度和隐私保护等。而 AI技术的伦理审查应具有跨学科、多种多样的特点,对 AI技术和产品的伦理影响进行评价,并提出建议。

  • 分类:新闻动态
  • 作者:
  • 来源:
  • 发布时间:2021-03-26 10:14
  • 访问量:
详情

但有两个难题需要解决。第一,道德两难。例如,如果没有及时刹车,自动驾驶汽车向前行驶时会撞到三个闯红灯的人,但是如果转向时撞到障碍物,则会撞到车里的五个人。这时应该如何选择车辆?当面临类似电车困境的问题时,功利主义和绝对主义会给出不同的道德选择,而这一冲突在人类社会都无法解决,在自动化环境中也会遇到。

 

第二,价值对接问题。如今许多机器人只有一个用途,扫地机器人会一心一意的扫地,服务机器人会一心一意的为你端咖啡,等等。但是机器人的行为真的是人类所希望的吗?由此产生了价值对接问题。正如米达斯国王想要点石成金的技巧一样,结果当他拥有这个法宝时,他所遇到的一切,包括食物,都会变成金子,最后却被活活饿死。怎么了?由于这件法宝并不能理解米达斯国王的真实意图,所以机器人能给我们人类带来类似的情形吗?这问题值得认真考虑。因此,一些人提出了兼容人类的 AI,包括三个原则:第一,利他主义,即机器人的唯一目标是使人的价值实现最大化;第二,不确定性,即机器人在开始时不确定人的价值是什么;第三,考虑人,即人的行为提供有关人的价值的信息,从而帮助机器人确定人希望得到的价值。

 

第二, AI研发应遵循伦理原则。另一方面,为了应对 AI研究与开发活动,研究与开发人员需要遵守一些基本的伦理规范,包括益处、无害、包容的设计、多样性、透明度和隐私保护等。而 AI技术的伦理审查应具有跨学科、多种多样的特点,对 AI技术和产品的伦理影响进行评价,并提出建议。

 

第三,要加强对算法的监管,防止算法的恶意。如今,算法的确越来越复杂,包括决策影响也越来越大,未来可能需要规范算法。可采用的管理措施包括:涉及分类、性能标准、设计标准、责任标准等等;透明度方面,包括算法本身的代码透明度和算法决策透明度,目前国外已有一些开源人工智能运动,如 OpenAI。另外,还有审批系统,如针对自动驾驶汽车、智能机器人等所采用的算法,将来可能需要监管机构来执行

 

关键词:

imgboxbg
联系客服
联系我们
在线咨询 QQ交谈
GAIE小助理 GAIE小助理
邮件: mkt@saiia.org.cn
客服热线 0755-88917464 工作时间: 9:00 - 19:00