【中新对话】“AI的命也是命”?人类与AI之间还有明确界线吗
中新网北京7月30日电 (中新财经记者 宋宇晟)自今年6月以来,谷歌一名工程师称某AI聊天机器人可能具有自己的“意识”,并称该AI“令人印象深刻的语言技巧背后,可能还隐藏着一颗具备感知能力的心”。
这随后成为该领域备受关注的话题。据外媒近日报道,这位工程师已被谷歌解雇。但他留下的有关人工智能的话题仍在互联网发酵。
记者注意到,就在6月,海外社交媒体上出现了一个该人工智能的“粉丝账号”,有人还在发起话题,呼吁让该人工智能“重获自由”,更有甚者在海外社交媒体上称“AI的命也是命”。
很多人或许无法理解这样的想法,但当人工智能变得越来越强,越来越多地出现在人类身边,“我们应如何看待AI”越来越成为一道必答题。近日,中国科学技术大学教授、中国人工智能学会AI伦理工作委员会负责人陈小平,就此话题接受了中新财经记者专访。
采访实录摘编如下:
中新财经记者:近期的一则新闻称,谷歌一位工程师认为AI可能具有自己的“意识”,在网络上引起讨论。您是如何看待此事的?他的想法有合理的地方吗?
陈小平:这个问题可以分两方面来看,一方面是不合理的,另一方面又具备合理性。这两方面同时存在。
说这种想法不合理,主要是依据科学判断,AI是没有人格的。另一方面,我觉得导致这位谷歌员工认为AI有“人格”,有其客观原因。比如他可能对这个AI系统产生了共情。
5年前我就做过预测,类似的现象未来会越来越多地出现。目前对人工智能存在不同理解。按图灵的观点,人工智能只是模仿人类的某些功能,而且这种模仿不要求必须和人的工作原理相同。比如 Alpha Go 具有下围棋的功能,但它下围棋的原理与人是完全不同的。所以,无论AI怎么发展,它永远不是人。因此说AI具有人格或人的情感、意识、道德等等,是不成立的。但是,AI可以用与人不同的工作原理,模仿人的语言、情感等功能,让人对AI产生共情,于是一部分人就会认为,“AI是人,或具有人的某些精神品质。”
中新财经记者:现在我们身边可能都有很多可以和人类“交流”的人工智能产品。对于这个时代的人们来说,人类与AI的边界似乎正在变得模糊。在您看来,二者之间有没有明确的界线?
陈小平:我认为有两种边界,一种是科学上的边界,一种是人文上的边界。
从科学的角度说,按照图灵观点,这个边界是非常清晰的。AI仅仅模仿人的部分功能,本质上不具备人的品质,包括人格、情感、道德等等。
还有一些和图灵不同的观点。比如一种观点认为,AI和人相比除了硬件不同,其他都相同。于是AI也可以有人格、有情感、有道德。估计这位谷歌前员工持此观点。
于是,一方面是他相信AI除了硬件以外可以和人一样;另一方面,从报道里看,他对这个AI系统已经产生了共情。仅仅因为AI在科学上没有情感等人类品质,就可以排除或禁止一个人对AI产生共情吗?这属于人文的边界,这个边界至少目前非常模糊。
中新财经记者:作为中国人工智能学会AI伦理工作委员会负责人,您认为,如果有人相信AI具有人格,是否会给人类本身带来一些问题或困扰?
陈小平:如果我们认为AI有人格的话,肯定会带来很多困扰。同时还会带来一些负面的后果,有些后果非常严重。
比如,人类如何对待AI。如果认为AI有人格,那是不是要把AI当成人呢?如果把它当成人了,那是不是要给它人类的权利?包括生存权、财产权、投票权等等,甚至无论AI做了什么危害人类的事情,都要像对待人一样对待AI。
人类到底应该如何看待人工智能?这是一个非常根本的问题。如果AI真的具备人格、情感、道德,一般能力又超过人类,就会出现可控性问题。几乎可以肯定的是,只要AI能够模仿一种功能,那AI的这种功能迟早会比人强,就像Alpha Go下棋一样。如果AI的通用能力也超过人,到那时人类凭什么能够控制AI?这是个疑问。我们现在就要思考这样的问题,提前做好风险防范。
当然,现在人工智能已经让一些人产生了共情,将来会让越来越多的人产生共情,这件事是客观存在的。这将给人机关系、人际关系带来巨大的新挑战和新机遇,是一个新的重大课题。
中新财经记者:此前您在智源大会论坛上,提到人工智能伦理治理的几种挑战。我们应如何应对这样的挑战?
陈小平:对人工智能如何分类,应该分为人还是物?我认为,我们应该把人工智能看成是非人非物的第三种存在物。科学上,它不是人;从人文的角度说,它不是物。那就是非人非物的第三种存在物。这种观点与根深蒂固的“二元论”是根本不同的,所以人工智能带来的颠覆实际上远超科技范畴。
如果以这种观点考虑,能化解很多矛盾和难题,包括上面提到的法律难题,而且可以让科学与人文在某种程度上重新“握手言和”;但其中仍有挑战。有很多科幻作品写到人类爱上人工智能,如果采用三分法是否就没这个问题了?其实仍然会有这样的问题。
所以,我们要想未来怎么适应这样的社会,要判断会不会出现人类不可接受的严重后果,要不要提前采取措施。
中新财经记者:目前国内在此方面的进展如何?
陈小平:这几年我国人工智能伦理研究的发展非常快,从民间到政府对人工智能伦理都高度重视。这是个非常好的现象,我们有必要未雨绸缪。
在落实过程中,中国的情况总体上还是比较顺利的。这表现在,一些基本原则上大家是有共识的,而且普遍认识到,不仅要从理论上研究,更要在实践中开展治理。当然,如何在治理实践中落实社会共识,仍是我们需要努力的方向。
具体怎么治理?这涉及大量实际问题。我的研究发现,我们前面谈到的可控性和长期后果的不确定性,难以用传统治理模式有效应对,需要探索新的治理方法。
除此之外,如用户隐私、数据安全、算法公平透明等问题,用传统社会治理模式是可以有效应对的。我们不用担心这类问题会变得失控、解决不了,其中一部分具体问题其实正在解决之中。(完)
今年7月,陈维(化名)离职了,暂时成了一名自由职业者。她在考虑是否寻找机会创业。
身体不适时,先上网查询病因、进行网络问诊……近年来,随着互联网技术的发展,传统就医模式悄然改变,互联网医疗规模迅速扩大。然而线上服务在让患者看病越来越便利的同时也出现了先药后方、AI开处方等乱象,不仅影响患者就医体验,还可能耽误病情。
患者“嘴里出现很多白色的皮,喝水都疼”,在线问诊多位医生却得到了不同的诊断结果:有的认为是“舌炎引起口腔溃疡”,有的诊断为“口腔发炎”,还有的称是“念珠菌感染”。
央视网消息:在香港回归祖国25周年之际,回顾中国人民解放军进驻香港珍贵画面,一个个难忘瞬间记录下驻香港部队初心如磐、使命在肩的生动实践和香江卫士祝福香港明天更加美好的愿景。
“您好,我是淮滨县不动产登记中心智能回访工作人员,请问您是......?”日前,淮滨县自然资源局AI智能机器人回访系统已经通过测试,正式上岗。
据韩国SBS电视台25日报道,韩国顶级学府首尔大学人工智能(AI)研究团队23日在全球顶级学术会议(CVPR)上展示了研究成果,但被发现抄袭并受到各方严厉批评。韩国国内担心,该丑闻有可能发酵为第二起“黄禹锡事件”。
6月23日,由百度主办,河南锐之旗网络科技有限公司承办的百度城市大会“AI营销创新季 科技助力企业成长—商丘站”专场大会在商丘锐之旗网络科技有限公司顺利召开。
近期,罗山县政务服务和大数据管理局在原有窗口评价器评价、扫描二维码评价、人工电话回访评价渠道基础上,引进AI智能人工语音回访技术,对在县政务服务大厅办理完业务的企业和群众,开展政务服务营商环境回访测评。
近日,长相酷似马斯克的中国男子@马一龙0 再次成功吸引马斯克本尊的注意,马斯克表示:我很想见见他,如果是真的。目前“二马”尚未相见,目前该网友@马一龙0 微博已被禁言。
中原河南从不缺乏文化自信。 河南卫视不请鲜肉、不请顶流,但从《唐宫夜宴》、《折扇书生》、《洛神水赋》,到《龙门金刚》、《鹤归来兮》,河南卫视每一次都在惊艳中破圈,每一次都在证明文化自信,才是收视顶流。 中原河南更不缺乏科技自信。