新华网 正文
“暗黑版”AI现身引忧虑 我们需要怎样的人工智能?
2018-07-09 07:12:46 来源: 科技日报
关注新华网
微博
Qzone
评论
图集

  智能穿戴设备吸引观众。汤彦俊 摄

  近日,麻省理工学院媒体实验室出品了一个“暗黑版AI”,再次将人工智能的黑箱隐忧这个经久不衰的话题送上热门。据报道,实验室的三人团队联手创造了一个叫诺曼(Norman)的人工智能,与希区柯克经典电影《惊魂记》中的变态旅馆老板诺曼·贝兹同名。

  名如其人。诺曼会以负面想法来理解它看到的图片。例如,一张在一般AI看来只是“树枝上的一群鸟”的普通图片,在诺曼眼中却是“一名男子触电致死”。

  团队希望通过诺曼的表现提醒世人:用来教导或训练机器学习算法的数据,会对AI的行为造成显著影响。AI会成为什么样,有时人类可能束手无策。

  TA们的偏见就是人类的偏见

  诺曼们从哪来?答案首先藏在数据里。

  “人工智能识别出的结果不是凭空而来,是大量训练的结果。如果要训练AI某一方面的能力,比如下棋,就需要收集、清洗、标记大量数据供机器学习。如果用于训练的数据不够多,就会造成AI学习的不充分,导致其识别结果的失误?!敝锌圃鹤远芯克芯吭蓖踅鹎哦钥萍既毡钦弑硎?。数据本身的分布特性,如偏差甚至偏见,也会被机器“有样学样”。针对诺曼的表现,创造它的实验室也指出,“当人们谈论人工智能算法存在偏差和不公平时,罪魁祸首往往不是算法本身,而是带有偏差、偏见的数据。因为当前的深度学习方法依赖大量的训练样本,网络识别的特性是由样本本身的特性所决定。尽管在训练模型时使用同样的方法,但使用了错误或正确的数据集,就会在图像中看到非常不一样的东西”。

  另外是算法本身的影响?!罢饪赡苁俏薹ㄍ耆苊獾?,由深度学习算法本身的缺陷决定,它存在内在对抗性?!蓖踅鹎疟硎?,目前最流行的神经网络不同于人脑的生物计算,模型由数据驱动,和人类的认知不具有一致性?;谏疃妊暗目蚣?,必须通过当前训练数据拟合到目标函数。在这个框架之下,如果机器要识别狗,它会通过狗的眼睛、鼻子、耳朵等局部特征进行可视化识别,而这些可视化特征却能给想利用深度学习漏洞的人机会,后者可以通过伪造数据来欺骗机器。

  除了人训练机器的数据本身有偏差以外,机器通过对抗性神经网络合成的数据也可能有问题。由于机器不可能“见过”所有东西(比如识别桌子,机器不可能学习所有长短宽窄各异的桌子),人也不可能标记所有数据。如果研究者输入一个随机的噪音,机器可以向任何方向学习。这是一把双刃剑,机器也可能合成一些有问题的数据,学习时间长了,机器就“跑偏”了。

  数据的均衡或可减少“跑偏”

  不少科学家以“garbage in, garbage out”来形容“数据和人工智能的关系”。中科视拓(北京)科技有限公司CEO刘昕说:“对机器学习而言,进什么就出什么。监督学习就是让模型拟合标签,比如训练者把帅哥都标记成‘渣男’,那么机器看到刘德华,就会认为他是……”谈到诺曼引发的讨论,刘昕表示:“不需要担心,人类本身就有各种歧视和偏见,用人类生产的数据训练AI,再批判AI不够正直良善,这么说有点危言耸听?!?/p>

  偏见、刻板印象、歧视都是人类社会的痼疾,有些流于表面,有些深入社会肌理,无法轻易剥离。在这样的语境中产生的数据,携带着大量复杂、难以界定、泥沙俱下的观点。如果研究者没有意识到或着手处理这一问题,机器学习的偏见几乎无解。真正的“公正算法”或许是不存在的。

  据有关媒体报道,在谷歌研究自然语言处理的科学家 Daphne Luong 表示,正确地校准标签对机器学习来说非常关键,有些数据集其实并不平衡,像维基百科上的数据,“他”(He)出现的次数远比“她”(She)要多。

  王金桥也着重强调了“数据的均衡”。就算对人来说,不同人秉持着不同的价值观,但多听多看多受教育可以让人向良好的方向改进?;餮耙彩侨绱??!把盗坊魇?,要注重数据的均衡,给它更多可靠的数据。研究团队成员具有多元的学术背景(如吸纳更多社会学、心理学等领域学者加入)、性别、年龄、价值观,也可以帮助机器学习更加均衡,减少机器出现偏见、谬误甚至失控的可能?!蓖踅鹎潘?。

  “机器学习的模型本身也要有一定的防攻击能力,从技术上防止本身结构设计的漏洞被攻击,研究者可以使用各种数据攻击机器,训练机器的反攻击能力?!蓖踅鹎潘?。

  作恶还是向善,是人类的选择

  1942年,阿西莫夫在短篇小说《环舞》中首次提出著名的机器人三定律:机器人不得伤害人类,或因不作为使人类受到伤害;除非违背第一定律,机器人必须服从人类的命令;除非违背第一及第二定律,机器人必须?;ぷ约?。半个多世纪过去,人工智能在大数据的加持下迎来爆发式发展。某些专用型人工智能把人类智能甩在身后,人们开始担忧,机器伤害人类的那一天是不是不远了。

  因此有一种看法很主流——人类训练有意识、有自我觉知的人工智能是不明智的??瞿远?,机器一旦发展出自我意识,要反向攻击人类,场面或许失控。

  前段时间,据路透社报道,韩国科学技术院的人工智能研发中心正在研发适用于作战指挥、目标追踪和无人水下交通等领域的人工智能技术,希望在今年年底前研发出基于人工智能的导弹、潜艇和四轴飞行器。此事引发学术界的巨大震动,抗议纷至沓来,并最终以院长保证无意于“杀手机器人”的研发并重申人类尊严和伦理收场。在美国,以“不作恶”为纲的谷歌也因与国防部的合作协议涉及“Maven项目”被推上风口浪尖,反对者普遍认为,识别结果完全有可能被用于军事用途,比如说精准打击。谷歌最终表示终结协议。

  相较于舆论环境的忧心忡忡,研究者对“技术向善”普遍乐观。他们认为把AI和“杀人机器”联系在一起,近乎“捧杀”,夸大AI能力之余,也引发不明真相的公众恐慌,无益于人工智能的发展环境。

  “很多人提到AI总是一惊一乍,把AI说成超人。我相信人工智能是能解决问题的,但大家的期待也要在合理范围内。人和机器各有优势,技术会服务于特定场景,但也不需要把AI捧上天?!苯邮芸萍既毡钦卟煞檬?,思必驰北京研发院院长初敏博士忍不住“抱怨”了一下??蠢础拔颐切枰跹腁I”这一题,大家都还没有答案。

+1
【纠错】 责任编辑: 郝多
新闻评论
加载更多
华盛顿民俗节上演叠罗汉
华盛顿民俗节上演叠罗汉
哺育
哺育
新华社国内照片一周精选
新华社国内照片一周精选
俯瞰夏日西湖
俯瞰夏日西湖

?
010020020110000000000000011101011123095698
吐鲁番凳克金融服务有限公司 购彩中心 彩神8 东方彩票 welcome购彩中心 彩神彩票购彩平台 1分快三 五五世纪平台 彩神ix 彩神彩票 55世纪 大发购彩中心 大发彩票welcome 彩神8v 3分快三 凤凰彩票官方网站 极速快3购彩平台 彩神 东方彩票 直播快三 10分pk10 五分快乐十分 乐发app 凤凰彩票 乐发彩票 凤凰彩票官方网站 极速快3购彩平台 彩神 东方彩票 直播快三 10分pk10 五分快乐十分 乐发app 凤凰彩票 乐发彩票 凤凰彩票官方网站 极速快3购彩平台 彩神 10分pk10 快三彩票购彩平台 55世纪购彩平台 welcome购彩中心 百姓快三 彩88 大發5分快3 乐发VI 大发系列平台 百度彩票 快三平台 快三彩票购彩平台 55世纪购彩平台 大发welcome 百姓快3 乐乐彩 一分11选5 乐发Vll 乐发网投平台 快三网站 快3平台 快三彩票 55世纪官方网站 大发welcome 百姓快3 乐乐彩 大发彩票购彩平台 五五世纪 大发快乐8 welcome大发彩票 凤凰快3 3分快3 重庆快3 乐发lll 幸运5分彩 55世纪官网 大发彩票购彩平台 五五世纪 大发快乐8 3分快3 重庆快3 乐发lll 幸运5分彩 55世纪官网 大发彩票购彩平台 五五世纪 大发快乐8 welcome大发彩票 凤凰快3 3分快3 凤凰彩票app下载 快3平台 Welcome彩神 10元投资彩票赚钱平台 PK彩票 5分pk10 分分快3 乐发Ⅲ 优彩彩票 网信快3 凤凰彩票app下载 快3平台 Welcome彩神 10元投资彩票赚钱平台 PK彩票 5分pk10 分分快3 乐发Ⅲ 优彩彩票 网信快3 凤凰彩票app下载 快3平台 Welcome彩神 10元投资彩票赚钱平台 PK彩票 5分pk10 快3彩票购彩平台 快3购彩平台 一分快3 大發3分快3 乐发lx 五分快三 vip彩票购彩大厅 网信快三 快3彩票购彩平台 快3购彩平台 welcome手机购彩 大发云app 一分快3 大發3分快3 乐发lx 五分快三 vip彩票购彩大厅 网信快三 快3彩票购彩平台 快3购彩平台 welcome手机购彩 大发云app 彩88 大发彩票官方网站 乐彩 大发彩票快乐8 购彩中心 彩神iv争霸 5分快3 山西快3 乐发ll 大发购彩大厅welcome 大发彩票 大发彩票官方网站 乐彩 大发彩票快乐8 购彩中心 彩神iv争霸 5分快3 山西快3 乐发ll 大发彩票官方网站 乐彩 大发彩票快乐8 购彩中心 彩神iv争霸 5分快3 彩神彩票购彩平台 乐发彩票 彩神Welcome入口 天天中平台 彩神v 3分pk10 乐彩彩票 乐发3彩票APP 五五世纪平台 welcome大发彩票 彩神彩票购彩平台 乐发彩票 彩神Welcome入口 天天中平台 彩神v 3分pk10 乐彩彩票 乐发3彩票APP 五五世纪平台 welcome大发彩票 彩神彩票购彩平台 乐发彩票 彩神Welcome入口 天天中平台 彩神v 3分pk10 快3彩神官方网站 快3购彩中心 手机购彩 一分三可空降可约app下载 1分快3 三分PK10 乐发lv 网信彩票 快3彩神官方网站 快3购彩中心 手机购彩 一分三可空降可约app下载 1分快3 三分PK10 乐发lv 大众购彩 名发app 网信彩票 快3彩神官方网站 快3购彩中心 手机购彩 一分三可空降可约app下载 1分快3 凤凰彩票 极速快三 大发快乐8官方网站 采彡神争霸 天天彩票 10分快3 三分11选5 乐发III 百姓彩票welcome 乐发 凤凰彩票 彩信平台 大发快乐8购彩平台 彩神8 幸运快三 五分快3 湖南快3 乐发IV 55世纪-购彩大厅 网信快三 大发彩票app下载 彩信平台 大发快乐8购彩平台 彩神8 彩神彩票官方网站 乐发彩票购彩平台 彩神Welcome登录入口 彩神v8 彩票宝 大发pk10 乐发国际 乐发1 鼎发彩票 买大小平台赚钱 彩神彩票官方网站 乐发彩票购彩平台 彩神Welcome登录入口 彩神v8 彩票宝 大发pk10 乐发国际 乐发1 鼎发彩票 买大小平台赚钱 彩神彩票官方网站 乐发彩票购彩平台 彩神Welcome登录入口 彩神v8 彩票宝 大发彩票 快三彩票官方网站 彩神购彩中心 welcome凤凰彩票 神彩v8 1分快三 四川快3 乐发ll下载app 一分快3平台 星辰阁彩票购彩大厅 大发彩票 快三彩票官方网站 彩神购彩中心 welcome凤凰彩票 四川快3 乐发ll下载app 一分快3平台 星辰阁彩票购彩大厅 大发彩票 快三彩票官方网站 彩神购彩中心 welcome凤凰彩票 神彩v8 1分快三 凤凰彩票购彩平台 极速快3 大发快乐8官网 网信彩票 彩神网 10分快三 三分PC蛋蛋 乐发app下载 快盈iv 乐发IV彩票购彩中心 凤凰彩票购彩平台 极速快3 大发快乐8官网 网信彩票 彩神网 10分快三 三分PC蛋蛋 乐发app下载 快盈iv 乐发IV彩票购彩中心 凤凰彩票购彩平台 极速快3 大发快乐8官网 网信彩票 天天彩票 10分快3 快3彩票 乐发彩票官方网站 彩神welcome 大发三分快3 乐发彩票ll 乐发 快盈IV500 welcome彩神 快3彩票 乐发彩票官方网站 彩神welcome 在线快3 大发彩票www官方 大发三分快3 乐发彩票ll 乐发 快盈IV500 welcome彩神 快3彩票 乐发彩票官方网站 彩神welcome 在线快3 大发彩票www官方 彩神彩票 55世纪 大发购彩中心 大发彩票welcome 彩神8v 3分快三 五分飞艇 乐发lll下载 万乐彩 彩神ix 彩神彩票 55世纪 大发购彩中心 大发彩票welcome 彩神8v 3分快三 五分飞艇 乐发lll下载 万乐彩 55世纪 大发购彩中心 大发彩票welcome 彩神8v 3分快三 凤凰彩票官方网站 极速快3购彩平台 彩神 东方彩票 直播快三 10分pk10 五分快乐十分 乐发app 凤凰彩票 乐发彩票 凤凰彩票官方网站 极速快3购彩平台 彩神 东方彩票 直播快三 10分pk10 五分快乐十分 乐发app 凤凰彩票 乐发彩票 凤凰彩票官方网站 极速快3购彩平台 彩神 东方彩票 直播快三 10分pk10 快三彩票购彩平台 55世纪购彩平台 welcome购彩中心 百姓快三 彩88 大發5分快3 乐发VI 大发系列平台 快三彩票购彩平台 55世纪购彩平台 大发welcome 百姓快3 乐乐彩 一分11选5 乐发Vll 乐发网投平台 快三网站 快3平台 快三彩票 55世纪官方网站 大发welcome 百姓快3 乐乐彩 大发彩票购彩平台 五五世纪 大发快乐8 welcome大发彩票 凤凰快3 3分快3 彩神彩票官方网站 乐发lll 快3官网 极速快3平台 五五世纪 全国快3app下载安装 乐发彩票官方网站 乐发lv 快3app官网 极速快3 乐发彩票购彩平台 55世纪 快3官网下载app 乐发ll 凤凰彩票购彩平台 乐发彩票 凤凰彩票app下载 彩神彩票购彩平台 凤凰彩票app下载 凤凰彩票官方网站 大发彩票 乐发彩票 乐发ll 55世纪 极速快3 快3平台 快3app下载 55世纪官方网站 55世纪购彩平台 极速快3 乐发ll 彩神Vll 乐发彩票 幸运快3 55世纪官方网站 乐发lll 彩神vi Welcome彩神 五五世纪 乐发彩票 快3平台 10元投资彩票赚钱平台 快3平台 百姓快3 55世纪购彩平台 1分快3 彩神v Welcome彩神 幸运快3 快3app官网 百姓快3 乐发lll 一分快3官网 welcome大发彩票 10元投资彩票赚钱平台 乐发彩票官方网站 彩神v 乐发ll PK彩票 大发快乐8 神彩lv 彩神Vll 大发welcome 极速快3 55世纪 快3app下载 采彡神争霸 1分快3 大发快乐8 极速快3平台 彩神vi welcome盈彩购彩大厅 彩神vll首页 welcome大发彩票 乐发快3平台 幸运快3 乐发lll 乐发lv 大发彩票 幸运快3 大发彩票 乐发ll 彩神xl 大发彩票 全民彩票 大发排列3 凤凰彩票 乐发v平台 彩神彩票 快3官网 快三下载app 网信快3 快三官方正版 乐发lv 快3彩票 乐发II 大发彩票 快三官方 凤凰彩票 一分时时彩 快三官网 乐发lv 乐发lll下载 乐发lv 乐发ll 快三推荐平台 乐发II 乐发彩票中心 大发彩票app 快三下载平台 大发彩票 乐发 凤凰快3 彩神iv 极速快3 乐发快3平台 快三app 网信彩票 乐发lv 凤凰彩票官方 快3在线平台 彩神x 凤凰快3 大发购彩 乐发Vll 乐发lv 大发彩票 快彩彩票 乐发app 快三购彩 乐发ii下载入口 凤凰彩票app下载 乐发IV 大发彩票 网信彩票 凤凰快3 彩神xl 凤凰彩票 快3平台 乐发 快三正版 凤凰彩票 pk彩票 乐发v官网 乐发ll 大发官网 乐发app 乐发彩票中心 乐发彩票app下载 快三网址 快3平台 大发彩票 分分快3 大小单双平台 乐发ll下载app 快三平台app下载 网信彩票 彩神购彩平台 乐发彩票 彩神xl 快3平台 乐发快3平台 分分快3 大小单双平台 乐发lll 网信彩票 官网快3 快3官网 快三网 乐发lv 乐发app 55sj世纪首页 彩神1 乐发lll 彩神彩票 乐发app 乐发彩票 乐发彩票app下载 乐发iv 彩神x 乐发iv首页 大发彩票 乐发快3平台 乐发IV 快三官方正版 快三代理 快三下载平台 快三正版 大发彩票 乐发网投平台 凤凰彩票app 一分pk10 大发彩票 welcome凤凰彩票 乐发VI 快三王者 彩神彩票 大发彩票 百姓彩票 乐发lll 乐发lll 500大发 乐发 500大发 凤凰彩票app下载 凤凰彩票 乐发ll登录 大发彩票 快三官网平台推荐 网信彩票 乐发lll 快三网站 官网快3 幸运5分彩快3 乐发v官网 大发彩票 乐发官网 乐发lv 三分快3 乐发lv 凤凰彩票 快彩彩票 一分时时彩 乐发彩票app下载 快三官网平台推荐 幸运快3 网信彩票 welcome彩神 彩神彩票 乐发lv 快3彩票官网app 幸运快3 快三网赚 百姓彩票平台 乐发app 大发排列3 快3彩票 快三平台 乐发彩票 彩神购彩平台 百姓彩票 乐发2 凤凰彩票官方 乐发彩票 彩神彩票 快三网站 大发彩票 快三下载app 乐发ll 乐发IV 彩神vl 大发彩票 百姓彩票 每日彩票 乐发彩票app下载 welcome彩神 乐发app下载 快三官方 快盈彩票 乐发lv 乐发ll 乐发lv入口 凤凰彩票 乐发lx 大发彩票 乐发lv 乐发网投资平台 凤凰彩票 彩神app下载安卓版 乐发网投平台 彩神官方app下载安卓版 快三官网 快三正版 盈彩网投资平台 盈彩网投资平台 网信彩票 乐发彩票 全民彩票 乐发ii下载入口 极速快3 凤凰彩票购彩平台 官网快3 乐发彩票app下载 55sj世纪首页 乐发2 凤凰彩票登录 乐发ll 凤凰彩票app 凤凰彩票 乐发iv首页 彩神xl 大小单双平台 大发彩票安卓下载 乐发app 凤凰彩票 大发彩票 凤凰彩票 乐发网投资平台 每日彩票 百姓彩票网站网址 大发app 乐发lll 凤凰彩票 凤凰彩票 大发彩票 welcome彩神 乐发 彩神x 乐发III 快三网赚 大发10分PK10 三分快3 乐发ll 大发500 乐发app 大发彩票 快3平台 乐发平台 大发官网 快3彩票 乐发lv 乐发v官网 乐发iv首页 乐发v平台 凤凰彩票 彩神vl 乐发2 乐发lv 网信彩票 乐发彩票 彩神彩票官网首页 乐发∨Il 乐发彩票中心 大发彩票app 百姓彩票 彩神app下载安卓版 快盈彩票 盈彩网投资平台 乐发网投资平台 乐发官网 彩神彩票 乐发lll 快三网 大发app 幸运5分彩快3 大发购彩 乐发lv 网信彩票 pk彩票 凤凰彩票 乐发 彩神vl 快三网址 乐发ll 快三正规 快三下载平台 快三网赚 乐发Vll 乐发lll下载 大发官网 凤凰彩票app下载 快三网址 快盈彩票 乐发彩票 乐发ll 乐发平台 快彩彩票 乐发彩票 凤凰彩票 快三购彩 乐发app 网信彩票平台 乐发lll 乐发 凤凰彩票app下载 快三平台 凤凰彩票登录 乐发lv入口 彩神官方app下载安卓版