参考消息网11月27日报道 外媒称，人工智能正在飞速发展，以至于该领域的最新技术成果已经帮助创建出了知道何时不能信任人工智能的神经网络。
据阿根廷布宜诺斯艾利斯经济新闻网11月26日报道，这种深度学习神经网络旨在模仿人类的大脑，并能够同时权衡不同的因素，从而以人类分析无法达到的水平，在数据基础之上确定具体模式。
报道称，这一点之所以非常重要，是因为当今，人工智能被用于直接影响人类生活的各个领域，例如汽车、飞机的自动驾驶或完整的运输系统，此外还用于医学诊断和外科手术。
尽管人工智能一时还不会像电影《我，机器人》中的那样具有毁灭性，也不会像电视剧《黑镜》中那些臭名昭著的狗那样，但能够自主行动的机器已经在我们的日常生活中出现了，而且它们的预判可能会变得更加准确，甚至知道它们自身何时会发生故障。这对于改善其运行状况以及避免发生科幻小说中的核灾难来说，是至关重要的。
报道称，麻省理工学院计算机科学与人工智能实验室（CSAIL）的计算机科学家亚历山大·阿米尼说：“我们不仅需要生成高性能模型的能力，而且还需要了解何时不能信任这些模型的能力。”
阿米尼与另一位计算机科学家达妮埃拉·鲁斯一起加入了一个研究团队，致力于推动这些神经网络的发展，以期在人工智能领域内取得前所未有的进步。
他们的目标是让人工智能对自身的可靠性产生自我意识，他们称之为“深度证据回归”。
报道指出，这种新神经网络代表了迄今为止开发的类似技术的最新进步，因为它的运行速度更快，对计算的需求更低。该神经网络的运行可以在设定信任度的情况下与人类决策同步完成。
“这个想法很重要，并且总体上来说是可用的。它可用于评估基于自主学习模型的产品。通过评估模型的不确定性，我们还可以了解该模型预计会出现多少错误，以及还需要哪些数据来改善该模型，”鲁斯介绍说。
该研究团队通过将其与具有不同准确性水平的自动驾驶汽车进行比较来说明这一点。例如，在决定是否通过路口还是等待的情况下，神经网络对其预判缺乏信心。该网络的能力甚至还包含有关如何改善数据以做出更准确预判的提示。
阿米尼说：“在影响人类安全并造成生命危险的情况下，我们开始看到越来越多的神经网络模型走出研究实验室，进入现实世界。”（编译/田策）
相关阅读 换一换
-
人工智能作用凸显——更多机器人上岗会影响就业吗
从短期看，人工智能对就业总量影响相对温和，结构影响重于数量影响，但就业结构性矛盾处于上升通道，潜在的技术性失业风险在增加。在中国劳动和社会保障科学研究院副院长莫荣看来，国内制造业自动化替代岗位的原因主要有三方面。
-
【地评线】华龙两江评：跑出加速度 驶入人工智能发展“快车道”
近日发布的《中国互联网发展报告2020》蓝皮书(以下简称“蓝皮书”)显示，中国人工智能芯片进展显著，市场规模持续扩大，已超50亿元。随着人工智能技术的蓬勃发展，其在推动更多智能化产品落地的同时，也为我国的数字化治理提供了强大的技术支撑。
-
人工智能治理需用好“人工”
近日，人脸识别成为售楼处标配的新闻上了热搜，将个人信息安全问题推上舆论的风口浪尖，乃至有人戏言要戴头盔看房。或许不仅仅是人工智能，在未来的历史进程中，科技越智慧，就越需要人治理的智慧。
-
世界互联网大会开幕！阿里张勇谈平台经济监管：非常及时和必要
今天（11 月 23 日）上午，以 " 数字赋能 共创未来——携手构建网络空间命运共同体 " 为主题的 " 世界互联网大会 · 互联网发展论坛 "，在浙江乌镇国际互联网会展中心开幕。随后，以 " 数字经济与科技抗疫 " 为主题的主论坛中，中国工程院院士钟南山、阿里巴巴董事局主席等人发布了演讲。
-
阿里张勇谈平台经济监管：非常及时和必要
今天（11月23日）上午，以“数字赋能 共创未来——携手构建网络空间命运共同体”为主题的“世界互联网大会·互联网发展论坛”，在浙江乌镇国际互联网会展中心开幕。随后，以“数字经济与科技抗疫”为主题的主论坛中，中国工程院院士钟南山、阿里巴巴董事局主席等人发布了演讲。
-
2020年“互联网之光”博览会开幕 透过这扇窗，看见未来
11月22日，在形如春蚕的桐乡乌镇互联网之光博览中心，2020年“互联网之光”博览会拉开帷幕。本次博览会上，“人工智能”“云计算”“大数据”等科技名词，变成了可触摸、可互动、可体验的现实产品，人们在乌镇成为这些最前沿技术的“尝鲜者”。
-
教育部：通过人工智能等与教育融合 破解教师编制不足等瓶颈
据教育部网站消息，11月20日至21日，教育部在宁夏石嘴山市召开人工智能助推教师队伍建设暨加强新时代乡村教师队伍建设现场推进会。各省级教育行政部门负责人，教育部有关司局和直属单位负责人，教育部人工智能助推教师队伍建设专家组专家和宁夏人工智能助推教师队伍建设行动试点支援高校代表参加会议。
-
第十六届文博会线上开幕
（记者吕绍刚）16日，第十六届中国（深圳）国际文化产业博览交易会（以下简称文博会）首次以“云上文博会”的形式在线上开幕。受新冠疫情影响，本届文博会利用新一代信息技术、人工智能等高新技术手段，通过开展云开幕、云展厅、云招商、云签约、云大数据等“五个云”建设，为世界各地的参展单位搭建展示与交易平台。
-
长三角@河南| 有“人工好奇心”的拼多多+河南=?
“豫农优品馆”满月 借助AI技术实现差异化购物 是拼多多的核心 而上海不止有拼多多 像这样的人工智能核心企业有1116家 目前上海已形成较完备的产业体系 2019年，上海市民消费的猪肉中 有十分之一来自河南
-
第二十二届高交会闭幕 千余项新产品首发
以“科技改变生活、创新驱动发展”为主题的第二十二届中国国际高新技术成果交易会15日在深圳落幕，3300多家海内外展商参展，展示高新技术项目超过9000项，涵盖了人工智能、智能制造、智能驾驶、5G商用、8K超高清、区块链技术、大数据、云计算等领域。
