新闻中心 > 社会 > 正文

机器人水军、视频篡改……这些"AI造假术"要当心

2019年04月16日14:01  来源:科技日报

5034

  原标题:AI学会造假,我们该如何应对

  奥巴马会和特朗普说一样的话,信不信?有视频为证。在一个对比视频中,二人不仅话语一致,连话语节奏甚至面部肌肉的动作都是一致的,但谈吐风格却能保持各自特点。

  “这是一种被称为GAN(生成对抗网络)的新兴技术。”日前,香山会议召开以“信息隐藏与人工智能”为主题的学术讨论会,北京电子技术应用研究所副研究员李鹏超介绍,GAN是一种生成模型,通过将两个神经网络的对抗作为训练准则,可以自动生成图像,包括自动篡改图像。实际上早在2015年,GAN就被用于制作教皇表演“抽桌布”戏法的假视频,由于过于逼真,很快就火遍网络。

  据统计,大量的合成信息占据了互联网,如合成声音、生成图像、AI合成不存在的人像等,约占网络信息的30%。“眼见为实”很可能已经靠不住了。

  机器人水军已经很成规模

  人们判断真假,经常会说“真的自然”。而人工智能造假,将在尽可能“自然”的前提下,完成自动生成。

  “淘宝上的机器人水军已经很成规模了。”浙江大学管理学院教授孔祥维举例道,例如商品评价已经由机器自动生成,不再需要雇人“灌水”。

  “自动生成带来的危机是规模性、密集度的大幅增加。”孔祥维说。以淘宝评价为例,如果虚假评价如潮水般涌入,它甚至不需要做到真假难辨,就能将真实评价淹没。

  在社会事件的舆论方面,“机器人水军如果操纵舆论,将使国家安全置于风险之中。”孔祥维说。

  除了自动生成之外,GAN的开源性也带来巨大的隐患。开源代码,意味着谁都可以用,代码一经开源将“变幻无穷”。相关研究人员表示:“这就意味着对这一代码的研究必须比对手更透彻,才能以不变应万变。”

  防造假需嵌入抗编辑水印

  抖音等微视频APP的普及,使得视频的发布非常频繁。有没有办法让公众的自拍不像前文提到的视频一样被篡改?清华大学计算机科学与技术系副教授王道顺表示,非法用户除了借助视频编辑工具复制后再修改,甚至未经授权转拍视频内容。这些操作都是为了得到可以任意修改的“白板”,“我们正在探索基于深度学习的抗编辑视频水印技术。”王道顺说。

  这就要求水印在视频中是隐藏着的,而且不能够被编辑,人工智能的深度学习技术被用来嵌入这些“入木三分”的水印。王道顺表示,他的团队希望能够完成嵌入和检测两方面的技术输出。

  网络对抗进化为智能化平台间的对抗

  GAN的魔力在于两个神经网络之间的竞争,通过让两个神经网络对抗,人工智能深度学习从识别事物升级到有能力创造事物。

  技术都有两面性,人工智能的“造假术”也可被加以利用。信息隐藏技术可以借用人工智能技术和思路,例如利用神经网络的对抗生成隐藏信息,获得人工智能相关技术与生俱来的自适应、海量等特点。相关专家表示,深度学习在许多模式识别领域取得了巨大的成功,给信息隐写和隐写分析带来新的方法和挑战。

  对于信息隐藏的基础研究者来说,因为“思路不同”,传统的分析手段难以发现的隐藏信息很可能在人工智能的深度学习模式下被轻易破解。香山会议就新课题的紧迫性进行了讨论,专家认为:人工智能的发展使得网络对抗从人与人的对抗进化为智能化、自动化的平台间对抗,作为数据保护和隐蔽通信中的关键技术,信息隐藏技术必须有所改变。(记者 张佳星)

文章关键词:水军 信息隐藏技术 AI 机器人 视频水印 GAN 视频编辑 视频内容 自动生成 神经网络 责编:徐宁宁
5034

相关阅读 换一换

  • 国家网信办将重点整治“有偿删帖”和“软色情”信息

    记者从国家网信办获悉,国家网信办自11月5日起开展为期45天的移动应用程序信息内容乱象专项整治,聚焦乱象,重拳出击,集中整治违法违规移动应用程序。另据央视新闻消息,从11月5日起,国家网信办将开展为期2个月的网络“有偿删帖”问题专项整治,及为期1个月的网上“软色情”信息专项整治。

  • 影视剧网络评分真的靠谱吗?一条好评六毛七?

    如今,公众越来越习惯在看影视剧前看网络评分再做决定。粉丝“控评”,营销方“控场”,水军“带节奏”的多方合围下,评分机制频频失灵,正在让影视剧作品的网络“口碑”变成“口水”。有关专家认为,一些烂片借情绪打分引发的“风波”捞一把流量,形成“逆淘汰”局面,对国内影视剧行业健康发展不利。

  • 江苏常州侦破冒充人民日报社工作人员敲诈案

    (记者 燕帅)近日,按照公安部“净网2020”和打击“网络水军”专项战役统一部署,江苏常州公安机关会同武进分局组成专案组,成功侦破张某明“网络水军”团伙敲诈勒索案,先后在江苏南京、安徽马鞍山等地抓获犯罪嫌疑人16名,依法扣押作案设备39部,依法关停、封堵相关非法网站,冻结、查扣涉案银行卡、汽车等财物。

  • 用“水军”炒作阴谋论!澳大利亚研究院27页报告揭美国如何借疫情抹黑中国

    近日,澳大利亚研究院一份长达27页的调查研究报告《如同病毒:新冠病毒错误信息的有组织散播》显示,今年3月以来,一批有组织的“水军”在社交媒体上散布“新冠病毒为中国政府在武汉病毒研究所人为制造的生化武器”的阴谋论。

  • 用“水军”炒作阴谋论!澳大利亚研究院27页报告揭美国如何借疫情抹黑中国

    近日,澳大利亚研究院一份长达27页的调查研究报告《如同病毒:新冠病毒错误信息的有组织散播》显示,今年3月以来,一批有组织的“水军”在社交媒体上散布“新冠病毒为中国政府在武汉病毒研究所人为制造的生化武器”的阴谋论。

  • 澳研究报告:美网络水军炮制中国新冠病毒阴谋论

    近日,据澳大利亚研究院发布的一份调查研究报告《如同病毒:新冠病毒错误信息的有组织散播》显示,今年3月以来,一批有组织的网络水军在社交媒体上散布“新冠病毒为中国政府在武汉病毒研究所人为制造的生化武器”的阴谋论。

  • 澳研究报告称有组织网络水军散播“新冠病毒为武汉实验室制造生化武器”的谣言

    近日,据澳大利亚研究院发布的一份调查研究报告《如同病毒:新冠病毒错误信息的有组织散播》显示,今年3月以来,一批有组织的网络水军在社交媒体上散布“新冠病毒为中国政府在武汉病毒研究所人为制造的生化武器”的阴谋论。

  • 直播带货变官员秀:销量造假 组织水军喊"领导好帅"

    时下,不少地方领导干部积极尝试直播带货,以平易近人的方式推销本地特色农副产品,收获了不少赞声。带货直播,本来是领导干部促进复工复产、帮助群众脱贫致富的一种新方式,其最终目的是帮助本地产品尤其是农副产品找销路。

  • 特朗普本人转发支持迫害中国台湾记者!

    这名被特朗普的水军头子和特朗普本人威胁的记者名叫张经义,来自中国台湾省,目前在上海东方卫视工作,担任驻美记者。一个名叫Charlie Kirk的特朗普的水军头子,却发帖攻击张经义“撒谎”。

  • 举报者承认P图疑故意造谣 法律博主为韩红发声

    近期以来,韩红慈善基金会陷入被举报一事不断升级,举报者“司马3忌”持续不断揭穿韩红慈善基金会的“罪行”,而韩红方至今都没有一个明确的正面回应,而是专心救援武汉,为防疫贡献。而就在昨天,司马3忌还怒斥韩红不敢正面回应被举报一事,只会背地里雇水军辱骂,典型的束手无策了。

慢新闻

网传四川音乐学院封校?川音:假的! 网传四川音乐学院封校?川音:假的!

推荐视频

i新闻

新闻推荐

网站简介 | 版权声明 | 广告服务 | 联系方式 | 网站地图

Copyright © 2012 hnr.cn Corporation,All Rights Reserved

映象网络 版权所有