映象新闻

　　科技日报记者 李艳

　　斯蒂芬·霍金曾说过，人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。人工智能在带动巨大技术进步的同时，也给经济社会治理带来了新的挑战。

　　最近一段时间，人们关于人工智能的讨论可真不少——换脸、反换脸技术斗得不可开交；无人驾驶引发事故如何追责让人忧心忡忡；智能机器人该不该有公民身份的争论也已经反复了好几轮。

　　随着人工智能越来越渗透进人类生活的方方面面，全社会对人工智能的关注也从最开始的怀揣美好期望，变成了期待之外有担忧。在人工智能迅速发展，深刻改变人类社会生活、改变世界的背景下，我们在不断寻求人工智能效益最大化时，如何应对其伦理和监管问题，成为新的焦点。

　　6月17日，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》（以下简称《治理原则》），提出了人工智能治理的框架和行动指南。（见《治理原则》全文）

　　清华大学苏世民书院院长，国家新一代人工智能治理专业委员会主任薛澜参与了《治理原则》制定和出台的全过程，他在接受科技日报采访时表示，《治理原则》旨在更好协调人工智能发展与治理的关系，确保人工智能安全可控可靠，推动经济、社会及生态可持续发展，共建人类命运共同体。

　　各方共同担责

　　“负责任”是主题

　　《治理原则》突出了发展负责任的人工智能这一主题，强调了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条原则。薛澜说，这里的“负责任”是多方的责任——既有人工智能研发者，也有使用者、管理者等其他相关方，各方应具有高度的社会责任感和自律意识，严格遵守法律法规、伦理道德和标准规范。在这个基础上建立人工智能问责机制，明确研发者、使用者和受用者等的责任。人工智能应用过程中应确保人类知情权，告知可能产生的风险和影响。防范利用人工智能进行非法活动。

　　发展的眼光看问题

　　敏捷治理是这个意思

　　人工智能的发展日新月异，技术更迭之快、新产品出现之频繁远超出人们的预期，所以过往在人工智能治理过程中最大的麻烦就是老政策解决不了新问题，这一次《治理原则》推出了“敏捷治理”。

　　“这是一个全新的思路”，中科院自动化所研究员，国家新一代人工智能治理专业委员会委员曾毅向科技日报表示，《治理原则》针对人工智能独特的发展规律，在推动人工智能创新发展、有序发展的同时，更应该具有前瞻性和预判性，这样才能及时发现和解决可能引发的未知的风险。

　　“敏捷治理”可以让我们对未来更高级人工智能的潜在风险持续开展研究和预判，确保人工智能始终朝着有利于人类的方向发展。

　　尊重隐私

　　禁止滥用、恶用人工智能

　　这些年来，我国的人工智能技术取得了长足发展，中国的人工智能发展动力从哪里来？坊间有过各种说法。上海大学教授，国家新一代人工智能治理专业委员会委员李仁涵表示，我国的人工智能发展得益于数据量的快速增长、计算能力的大幅提升、机器学习算法的持续优化，以及政府、企业对人工智能技术的大力支持。

　　曾毅表示，长期以来，我国对于人工智能发展中的安全问题、隐私问题都十分重视。因此在《治理原则》中，尊重隐私被放在一个十分重要的位置。要求充分保障个人的知情权和选择权的同时，在个人信息的收集、存储、处理、使用等各环节应设置边界，建立规范。

　　曾毅更强调，此次在《治理原则》中首提“个人数据授权撤销机制”。他表示，我们反对任何窃取、篡改、泄露和其他非法收集利用个人信息的行为，基于此个人有权在同意个人信息授权后，有权利随时撤销授权，这一点在全世界也属于领先。他认为，人工智能应以保障社会安全、尊重人类权益为前提，避免误用，禁止滥用、恶用。

　　共治共管

　　《治理原则》的诞生有点特别

　　《治理原则》的出台，为的推动我国人工智能行业的自律，凝聚全社会共识，促进人工智能健康发展，所以“共治共管”的理念贯穿始终。早在《治理原则》起草前，科学技术部就在官方网站上发布消息，征求社会各界的意见。

　　“我们征集到了百余条十分有价值的意见，其中一些意见被采纳，还有许多提意见的人员被请来与我们一起探讨”，薛澜向科技日报介绍说。

　　一位中医科学院的专家提出以医学伦理为鉴确定人工智能的监管思路，一位南开大学的哲学专家建议以传统文化中的哲学思路倡导人工智能向善的理念等等，这些意见和建议都被国家新一代人工智能治理专业委员会的专家们广泛听取。

　　曾毅告诉科技日报，《治理原则》出台整个过程经历了网上建议征集、专家反复研讨、多方征求意见等环节，凝聚了广泛共识。值得一提的是，与许多国家先出草案再听意见不同，我们最初的意见征集阶段完全是发散性的，所有人各抒己见不设方向、不设门槛。

　　薛澜表示，《治理原则》是一个框架，后续将有更细化的政策法规、行业标准规范、区域共识等来规范人工智能的发展。他强调，人工智能的治理已经不是某个地区或者国家的问题，而是需要全球协同；人工智能发展应以增进人类共同福祉为目标，符合人类的价值观和伦理道德。中国的专家们盼着与全世界的科学家一起建立共识、协同发展，为促进人机和谐，服务人类文明进步共同努力。