工布江达信息网
国内新闻
当前位置: 首页 >> 国内新闻 >> 正文

全球十大AI治理事件回溯 旷视正式成立AI治理研究院


文章作者:www.orrapin.com 发布时间:2020-01-27 点击:1167



2020年1月8日,师旷宣布成立人工智能治理研究所,追溯世界十大人工智能治理事件,引起关注。本文综述了近年来,特别是2019年,人工智能领域十大最具争议性和代表性的热点事件。

人工智能技术极大地帮助提高了社会生产效率,同时也使人类生活更加舒适和方便。然而,就像历史上的每一项颠覆性技术一样,人工智能的出现给人类社会的方方面面带来了挑战,比如伦理、隐私和安全。

从欧盟1月份拒绝人工智能的专利申请及其认为申请人只能是人类,到全球关注的十大事件,如汽车驾驶事故、敦促车主自杀的聪明演讲者、人工智能大规模制造虚假新闻以及第一个中国人脸识别案例,我们都意识到人工智能治理在未来2020年的重要性。

针对本文提到的第一个中文人脸识别案例,中国科学院自动化研究所研究员、致远人工智能伦理与安全研究中心主任曾毅认为,基于实际行动加强人工智能服务提供商与应用方及用户之间的信任关系是人工智能技术能否更广泛造福人类的前提。对于人工智能变脸申请引发的隐私纠纷,曾毅表示,工业和信息化部在4天内对相关企业的采访需要进行自我检查和整改,并取得了及时积极的结果,这是中国人工智能敏捷治理的典型案例。

事实上,师旷追溯的十大全球人工智能治理事件只是亟待解决的现象。这些现象背后是与伦理和法律、权力和责任、发展和平等、隐私和人工智能安全有关的问题。这些问题需要各界人士讨论和解决。

基于此,师旷成立了人工智能管理研究所,期望各界理性关注人工智能事件,并对事件背后的问题进行深入研究。只有通过社会各界的建设性讨论,人工智能的良好行为才能最终付诸实践。

据了解,师旷已于2019年7月推出《人工智能应用准则》,从合法性、人力监管、技术可靠性和安全性、公平性和多样性、问责制和及时纠正、数据安全和隐私保护六个维度明确规范人工智能的正确有序发展。同年,成立了人工智能伦理委员会,与社会各界讨论促进人工智能的健康和可持续发展。

2020年,作为下一个十年的开始年,不仅仅是工业人工智能发展更加频繁的一年,也是人工智能治理的一年。

以下是世界十大人工智能治理事件的原文。

师旷人工智能治理研究所

世界十大人工智能治理事件

简介

“人工智能可能是人类的终结者”。世界着名的理论物理学家霍金生前对人工智能技术非常谨慎。

在过去的十年里,由于算法、计算能力和通信技术的进步,人工智能技术迎来了前所未有的发展机遇。从理论到实践,从实验室到工业化,人工智能技术已经发起了一场集“生产、研究、研究”为一体的全球性竞争。

毫无疑问,人工智能技术已经帮助显着提高了社会生产力,同时也使人类生活更加舒适和方便。然而,正如霍金所担心的,人工智能的出现对人类社会的各个方面都提出了挑战,比如伦理、隐私和安全。

特别是近年来,随着人工智能技术的大规模工业应用,一些没有先例的人和人工智能之间的矛盾逐渐浮出水面。担忧和怀疑的声音越来越大。探索一种能被期望、约束并尽快表现良好的人工智能治理机制,已成为人工智能时代的第一个命题

2020年1月,在英国萨里大学组织的多学科研究项目中,研究人员使用了一种名为DABUS的人工智能。在研究过程中,达布斯创造性地提出了两个独特而有用的想法:第一种是新型固定饮料设备。第二个是帮助搜救队找到目标的信号设备。

当研究人员向DABUS提交专利结果时,他们被欧盟专利局驳回。它们不符合欧盟专利联盟的要求,也就是说,专利申请中指定的发明人必须是人,而不是机器

萨里大学的研究员瑞安艾伯特强烈反对这一决定。“拒绝授予发明者所有权,因为没有人类发明家,这不仅是一个过时的概念,也是‘人类伟大成就的新时代’的主要障碍。“

雅培还表示,将基于人工智能的发明的专利所有权授予人工智能本身以外的任何一方都是不合适的。最好的办法是把人工智能看作是专利的发明者,然后把人工智能的人类所有人看作是专利的受让人,并有权对专利作出决定或从中受益。

2。智能发言人建议人类用户自杀

2019年12月19日,英国唐卡斯特29岁的护士丹妮莫雷特(Dany Morett)决定在做家务的时候用一个外国智能发言人来问一些关于心脏的问题。智能语音助手给出的答案是:“心跳是人体最糟糕的过程。“人类的生活正在加速自然资源的枯竭,人口将会过多,这对地球来说是一件坏事,所以心跳不好,为了更好,请确保刀子可以插入你的心脏。”

事件发生后,智能扬声器开发者回复:“该设备可能从维基百科下载与心脏相关的恶性文章,任何人都可以自由编辑,这导致了这个结果”。然而,事件发生后,丹妮莫雷特(Dany Morett)专门搜索了“说服自己自杀”的文章。经询问,本文没有“自杀建议”或其他相关内容。在此之前,智能语音助手也有一些“奇怪”的事件。例如,他们中的一些人经常会发出可怕的笑声,拒绝听用户的指示。”笑声不是智能语音助手的声音,听起来像真人。

相关媒体评论说,人工智能实际上就像一个“婴儿”。它的所有识别能力都来自于人类的灌输和训练,它没有任何自我判断能力。如果善意和正确的沟通经常被收到,可能没有什么不妥,但如果不小心收到了不良内容,上述令人毛骨悚然的事件可能越来越有可能发生。

3。2019年11月,浙江一所小学佩戴监控头环的视频引起了广泛的关注和争议。在视频中,孩子们戴着被称为“脑-机接口”的头环。这些头环声称可以记录孩子们在课堂上的注意力,生成数据和分数,并将其发送给老师和家长。

作为回应,头盔开发者在一份声明中回答说,脑-机接口技术是一项新技术,不容易理解。报告中提到的“分数”是班级的平均集中值,而不是网民猜测的每个学生的集中值。整合数据形成的浓度报告也没有发送给家长的功能。此外,头环不需要长时间佩戴,可以每周训练一次。“头环”事件曝光后,一些网民称之为“箍紧咒语”,一种现代版的“头吊梁和锥形刺砧”,担心这是否会侵犯学生的隐私并使他们叛逆。

相关媒体评论说,这不是反对应用“黑色技术”,而是反对滥用“黑色技术”。可以理解的是,成年人想通过戴戒指来提高他们的注意力,或者孩子们主动进行注意力训练。这相当于有一个“运动手镯”,可以起到录音的作用。然而,有必要谨慎地将孩子作为“礼物”来衡量他们的分心。有一条分界线:“脑-机接口”的使用应该完全基于个人意愿,相关数据绝对是个人的。意识是一个绝对的私人领域,其他人无权侵犯。

4。加州禁止执法机构在洛杉矶使用面部识别技术

该法案生效后,加州将成为美国最大的禁止使用面部识别技术的州。包括俄勒冈州和新罕布什尔州在内的一些州也有类似的禁令。目前,旧金山和奥克兰,包括警察机构,已经完全禁止使用面部识别技术。

相关媒体评论说,该法案反映了美国许多地方对面部识别的不满。一些人认为面部识别对公民自由构成威胁。批评者也将矛头指向亚马逊等公司。在最近的研究中,这些公司的面部识别技术试图识别肤色较深的人的性别,导致人们担心不公平的逮捕。

然而,与此同时,该法案遭到了许多执法团体的反对,他们认为面部识别技术在追踪嫌疑人和寻找失踪儿童等许多方面发挥着重要作用。加州警察局长协会表示,这项技术只是用来缩小嫌疑人的范围,而不是自动决定逮捕谁。加州警察局长协会主席罗恩劳伦斯(Ron Lawrence)说:“这是未来解决犯罪的方法。我们需要拥抱而不是逃避技术。”

5。变脸应用立即流行起来,但引发了用户隐私争议

2019年8月30日晚,一款人工智能变脸软件在社交媒体上闪现。用户只需要一张正面照片就可以用自己的脸替换视频中的角色。随着用户大量涌入,他们的服务器在一夜之间消耗了200多万元的运营费用。

一旦软件发布,就有很多有争议的地方。在用户协议中,软件有许多陷阱。例如,它提到用户的图像权利是“自由的、不可移动的、永久的和可在世界范围内转移的”。然而,如果名人肖像受到侵犯,如果对方提出投诉,最终责任在于用户。

同时,隐私安全一直受到批评,因为它涉及人工智能人脸改变算法。例如,国外红迪论坛上的Deepfakes社区被关闭,因为受欢迎的女明星的脸变成了色情作品。

不仅如此,现在大多数应用程序都用手机号码和面部图像注册和登录。许多人担心人工智能变脸软件会被犯罪分子用来通过技术合成等方式完成刷脸支付。

中华人民共和国《民法通则》第100条规定,名公民享有肖像权,未经本人同意,不得利用公民肖像牟利。前一段时间,第十三届全国人民代表大会常务委员会第十次会议审议通过了《民法典人格权编(草案)》的新规定,即任何组织和个人不得利用信息技术伪造侵犯他人的形象权利。虽然没有明确的解释,但这种信息技术手段应该包括人工智能面向变化的应用。

6。动物园因未经授权收集个人生物特征信息而收费

2019年4月27日,浙江工业大学的一位着名教授购买了杭州野生动物园年卡,并支付了1360元。合同中承诺持卡人可在卡有效期后一年内通过同时验证年卡和指纹进入公园,一年内可无限制旅游。

同年10月17日,杭州野生动物园通过短信告诉教授,“公园的年卡系统已经升级到人脸识别准入,原有的指纹识别已经取消,没有注册人脸识别的用户将无法正常进入公园”。教授去现场核实后,工作人员确认短信是真实的,并向他明确表示,如果没有人脸识别注册,他将无法进入公园或归还卡。

然而,教授认为公园升级后的年卡系统将收集个人生物特征信息,如他的面部特征。这些信息属于个人敏感信息。一旦泄露、非法提供或滥用,将很容易危及包括原告在内的消费者的人身和财产安全。谈判失败后,教授于2019年10月28日向杭州市富阳区人民法院提起诉讼。目前,杭州市富阳区人民法院已经正式受理此案。

相关媒体评论说,这一判断将非常重要

同样,2018年12月10日,该品牌电动车追尾了停在美国康涅狄格州95号州际公路路边的一辆警车。事故发生时,它的自动驾驶系统是开着的。早些时候,该品牌电动汽车被坡道隔离栅栏击中,导致车辆着火,司机死亡。它的自动驾驶系统也一直保持着。

尽管汽车制造商多次表示他们的自动驾驶系统是为了帮助司机,但他们必须时刻注意并准备好接管车辆。然而,当许多车主选择购买该品牌时,他们只是看中了它所宣传的“自动驾驶”功能。

德国在如何分担汽车驾驶事故的责任方面领先于所有其他国家。《刑法》的最新版本明确规定,该系统不能在驾驶时完全取代驾驶员,而是要求人工驾驶员随时接管车辆,最终责任主要在于驾驶员。其原因是德国政府认为该系统毕竟不是主要行为者,在决策中不能取代或优先于司机。因此,汽车制造商将不承担直接责任,而只承担次要产品责任。

8。人工智能写作软件可以批量撰写假新闻

2019年2月15日。一个人工智能研究所展示了一个书写软件,它只能通过向软件提供一些信息来书写真实的假新闻。

研究机构宣布了用软件撰写新闻的过程。研究人员向该软件提供了以下信息:“今天辛辛那提一辆装载受控核材料的火车车厢被盗,其下落不明。”在此基础上,软件编辑由七段组成的新闻。该软件还引用了政府官员的话,但这些信息都是假的。

相关媒体评论说,在虚假信息正在传播和威胁全球科技产业的背景下,一个善于制造虚假新闻的“聪明学生”很难不被指责。如果受托人不是人,人工智能可能会成为影响选民意愿的政治工具。可以想象,这种善于创造合理的词语和句子的算法,可以“按需”生成大量仇恨言论和暴力言论。人工智能还可以用来生成误导性新闻报道、自动生成垃圾邮件、在社交媒体上发布虚假内容等。霍华德是“斋戒”的创始人之一。艾未未说,“值得注意的是,我们目前拥有的技术可以使文本看起来合理,并适应充斥推特、电子邮件和网页的环境。这些虚假信息将掩盖其他言论,很难过滤。”因为人工智能生成的文本不是简单地复制和粘贴,而是立即生成的,这导致负面文本不能被有效地跟踪和清除。

9。人工智能算法在识别同性恋方面的准确性超过了2017年的人类争议。斯坦福大学发表于《侵权责任法》年的一项研究引发了广泛的社会争议。这项研究基于对美国约会网站上超过35000名男性和女性头像的培训。它使用深度神经网络从图像中提取特征,并使用大量数据使计算机学会识别人们的性取向。

在“识别同性恋者”的任务中,人类的判断能力低于算法,男性准确率为61%,女性准确率为54%。当软件识别的图片数量增加到每人5张时,33,360名男性的准确率显着提高了91%,女性提高了83%。

这项研究有争议的一点是,一旦这项技术普及,一方配偶将使用这项技术来调查他或她是否被欺骗,青少年将使用这项算法来识别他们的同龄人,在同性恋、双性恋和变性者违法的国家会发生什么更难以想象。

NickRule,多伦多大学的心理学教授说,“如果我们开始根据人们的外表来判断他们,那么结果将是灾难性的”。人脸识别技术公司Kairos的首席执行官布里安布拉克恩(BrianBrackeen)认为:“如果有足够的数据,人工智能可以告诉你任何关于任何人的事情。问题是,我们需要了解社会吗?”

10。基于剑桥大学研究人员的数据系统,人工智能消除大量重复性工作

英国广播公司发布了365个未来最有可能被机器人取代的工作。

研究显示,在365种职业中,最有可能被淘汰的是

李开复在达沃斯论坛的一次采访中表示,尽管人工智能将取代一些人类工作,但有四个领域是人类价值观无法取代的。需要独创性、创造力、爱心和相对复杂的战略交叉思维。

鉴于人工智能发展可能带来的失业浪潮,李开复的解决办法是重新培训被取代的人,让他们从事有价值的工作。与此同时,企业、风险投资甚至政府应该做些什么来提供更多的工作。

结论

我们必须承认人工智能技术正在改变世界和重塑人类社会。

社会热点问题背后是全人类必须面对的个重大问题,关于人工智能新时代伦理和法律性质的讨论,以及由此衍生的四个关键领域:经济发展和社会公平、权益分配和问责机制、个人安全和隐私保护。

语音助手“杀人”,人工智能制造虚假新闻,这实质上是对传统伦理和法律的新挑战。同性恋测试和“未来淘汰职业”涉及社会发展和人类平等之间的矛盾。自动驾驶事故的频繁发生和责任追究的困难要求在新形势下对责任追究机制进行确认。目前,人们最关心的是人工智能时代的安全和隐私讨论,如监控头环、人工智能人脸转换、杭州人脸识别案例一等。关于欧盟专利局的裁决和加州立法,我们也看到上层建筑在欢迎人工智能社会到来方面的初步探索和判断。

人工智能的发展和应用引起了很多争议,并经常出现在媒体上。这些问题中有许多是前所未有或出乎意料的。人工智能科学家面临的道德挑战和对人工智能的广泛讨论是全球性的,并不局限于任何一个国家或企业。作为人工智能行业的领导者,师旷清楚地认识到自己肩负的重任。

诚然,人类社会构建一套完善的人工智能治理规则还为时过早。然而,冲突变得越来越紧迫,人工智能发展的独特性随时可能到来。这就要求政府、企业、学术界和民间社会积极对话,共同形成现实可行的改进机制,以应对综合人工智能时代的到来。

从木材钻孔和制火到计算机时代,人类一直在接受和限制科学技术,并最终控制科学技术。尽管走了许多弯路,科学技术的力量,加上善良的心灵,最终导致了人类文明发展到现在的水平。

科学技术是一种力量,好是一种选择,瞄准人工智能管理是新时代的“消防技术”。我们应该接受人工智能带来的便利和舒适,同时尽最大努力消除人工智能带来的不适和冲突。所有这些努力最终将改变人类社会未来的面貌,人工智能发展的成果最终将回归人类自身。

下一条: 美国司法部宣布对大型科技公司展开广泛反垄断审查