展会官网(预登记)
/
/
/
AI的道德问题日益突出——深圳市人工智能行业协会
分类导航 Nav

AI的道德问题日益突出——深圳市人工智能行业协会

  • 分类:新闻动态
  • 作者:
  • 来源:
  • 发布时间:2021-03-26 10:16
  • 访问量:

【概要描述】不断进步和广泛使用人工智能所带来的好处将是巨大的。但要使 AI对人类社会真正有益,我们也不能忽视 AI背后的伦理问题。

AI的道德问题日益突出——深圳市人工智能行业协会

【概要描述】不断进步和广泛使用人工智能所带来的好处将是巨大的。但要使 AI对人类社会真正有益,我们也不能忽视 AI背后的伦理问题。

  • 分类:新闻动态
  • 作者:
  • 来源:
  • 发布时间:2021-03-26 10:16
  • 访问量:
详情

不断进步和广泛使用人工智能所带来的好处将是巨大的。但要使 AI对人类社会真正有益,我们也不能忽视 AI背后的伦理问题。

 

首先是算法歧视。也许有人会说,算法是一种数学表达,很客观,没有人那么多的偏见,没有人那么多的情感,容易受外界因素的影响,怎么会产生歧视?此前已有研究表明,法官在饥饿时对罪犯更严厉,量刑也更重,因此,人们常说,公正取决于法官是否吃了早饭。运算法则带来了类似的歧视问题。例如,一些图像识别软件也曾错误地把黑人称为“黑猩猩”或“猿”。另外,微软公司在2016年3月在美国推出的 Twitter聊天机器人 Tay,在与网民的互动中,变成了一个把性别歧视、种族歧视等同于一身的“坏女孩”。由于更多的算法决定,类似的歧视也会越来越多。算法歧视也会带来危害。首先,如果算法被应用于犯罪评价、信贷评价、雇佣评价等与人的利益相关的场合,一旦产生了歧视,就必然损害个人权益。而深度学习作为一种典型的“黑盒子”算法,甚至连设计人员也不知道算法的优劣,要在系统中找出其中是否存在歧视和歧视的根源,在技术上更是难上加难。

 

为何算法不客观,而且可能隐藏歧视?很多时候,算法决策实际上是一种预测,使用过去的数据来预测未来的趋势。预测结果取决于算法模型和数据输入。这两个因素也因此成为算法歧视的主要根源。首先,算法本质上是“用数学的方法或者计算机代码表达的观点”,包括它的设计、目标、成功标准、数据使用等等,这些都是设计者和开发者的主观选择,他们可能把自己持有的偏见嵌入算法系统中。而数据的正确性、准确性,也会影响算法的整体决策及预测精度。例如,数据反映了社会现实,而训练数据本身可能具有歧视性,用这种数据训练出来的 AI系统自然也会带有歧视的影子;另外,数据可能不正确、不完整或过时,造成所谓的“垃圾进,垃圾出”现象;更进一步说,如果一个 AI系统依赖于多数人的学习,自然就无法兼容少数人的利益。而且,算法歧视可能是一种具有自我学习和适应能力的算法在交互过程中获得的, AI系统在与真实世界交互时,可能无法区分什么是歧视,什么不是歧视。

 

此外,算法往往将歧视固化或放大,使歧视自我长存于整个算法之中。计算方法的决定就是用过去来预测未来,而过去的歧视可能在计算方法中得到巩固并在将来得到加强,因为错误输入形成的错误输出作为反馈,会使错误更加严重。归根结底,算法决策不能仅仅对过去的歧视实践进行编码,还必须创造自身的现实,形成“自我实现的歧视反馈循环”。其中包括预见性的治安管理,犯罪风险评估,信用评价,等等。说到底,算法决策实际上是缺乏对未来的想象,人类社会的进步需要这样的想象。

 

其次是隐私问题。包括深度学习在内的许多 AI系统都是大数据学习,需要大量数据来训练学习算法。在 AI时代,数据已成为“新石油”。它带来了新的隐私问题。首先,如果在深度学习过程中使用大量的敏感数据,那么这些数据就有可能被泄露出去,从而影响到个人隐私。因此,国外的 AI研究者已经在倡导在深度学习过程中如何保护个人隐私。而另一方面,由于各种服务间交易数据量大,数据流动频繁,使数据成为新的流通物,可能削弱个人对其个人数据的控制和管理。的确,在 AI时代,有很多工具可以用来加强隐私保护,比如计划好的隐私,默认隐私,个人数据管理工具,匿名化,假名化,差别隐私,决策矩阵等,这些标准都在不断发展和完善,值得在深度学习和 AI产品设计领域推广。

 

三是责任与安全问题。在此之前,霍金、施密特等人一直在警惕强人工智能或超人工智能可能威胁人类生存。但是在具体的层面上, AI安全包括行为安全和人的控制。AI安全一直是人们关注的焦点,从阿西莫夫提出的机器人三定律,到2017年阿西洛马会议提出的23条人工智能原则,美国、英国、欧盟等国家都在积极推进对自动驾驶汽车和智能机器人的安全监管。另外,安全常常伴随着责任。无人驾驶汽车,智能机器人造成的人身和财产损失由谁负责?根据现行的法律责任规则,由于系统高度自治,其开发人员很难预测,包括黑箱的存在,很难解释事故原因,未来可能会出现责任缺口。

 

关键词:

imgboxbg
联系客服
联系我们
在线咨询 QQ交谈
GAIE小助理 GAIE小助理
邮件: mkt@saiia.org.cn
客服热线 0755-88917464 工作时间: 9:00 - 19:00