人工智能治理体系如何平衡包容?中外专家把脉建言******
中新网北京12月4日电(记者 孙自法)作为有望引领人类未来变革的一项战略性技术,人工智能(AI)近年来在快速发展并赋能千行百业的同时,也带来安全、隐私、公平等系列问题和挑战,人工智能治理概念应运而生,备受关注。
由清华大学主办、联合国开发计划署支持的2021人工智能合作与治理国际论坛12月4日在北京开幕,中国科技部副部长李萌致辞时形象表示,“我们现在正站在智能化社会的门槛上,人工智能这条大船正载着我们向智能化世界驶去,而治理正是随时校正大船航向,确保大船行稳致远”。
在随后举行的“如何构建一个平衡包容的人工智能治理体系”主论坛上,中外专家学者线上线下对话,把脉人工智能发展,聚焦治理体系构建。
中国国家新一代人工智能治理专业委员会主任、清华大学人工智能国际治理研究院院长薛澜提出,人工智能治理直面数据、算法、算力、场景等四大要素挑战,价值导向上要坚持人工智能技术安全可控的底线思维、维护个人权益尊严与平等的人本思维、人工智能赋能经济社会发展的发展思维和人工智能促进可持续发展的全球思维,遵循“和谐友好、公平公正、包容共享、尊重隐私、安全可控、共同责任、开放协作、敏捷治理”的治理原则,着重从“包容、共享、审慎、负责”价值原则来平衡人工智能治理中的发展和安全需求,形成人工智能治理机制的价值共识,推动实现全球协同治理。
关于“审慎”价值原则,薛澜强调,要对人工智能治理给出明确的安全底线,既不能放任不管,任其野蛮生长,也不能出现“一管就死”,避免矫枉过正。
世界工程组织联合会主席、中国新一代人工智能发展战略研究院执行院长龚克表示,人工智能是第四次工业革命的代表性技术,人工智能治理旨在促进具有人类价值的人工智能创新发展,以造福人类和地球,因此,人工智能治理应遵循人工智能发展规律,具有开放的多利益相关者共治的结构,应综合运用技术、规则、教育等多种工具,并有效植入到人工智能应用平台之中。他还特别强调,不仅要发展人工智能各式各样的应用技术,还要发展一批保护隐私和公平、加强监管的人工智能治理支撑技术。
联合国助理秘书长、联合国开发计划署政策与方案支助局局长徐浩良指出,人工智能不是万能灵药,它的好坏取决于使用人工智能的人及数据基础、治理标准。“我们需要全面地看待人工智能,需要跨越国界、跨行业和跨代际的合作,来制定必要的治理框架”。他说,国际机构和国家间的合作至关重要,联合国教科文组织最近通过有关人工智能伦理的提案,得到许多成员国的支持,这是积极的一步。联合国开发计划署已做好准备,为政府和其他利益攸关方构建人工智能治理框架提供支持,让人工智能成为推动可持续发展的重要力量。
“为什么我们需要一种新的、21世纪国际合作方式来治理人工智能?”卡内基理事会资深研究员、人工智能与平等倡议联席主任温德尔·瓦拉赫认为,首先是以数字和生物革命为代表的新兴技术正在重新定义人类的意义,并且重塑世界和未来前景;二是技术速度远远快于道德和法律监督到位的速度,新的人工智能部署的绝对普遍性和速度,颠覆了行业政府、传统机构以及与人们生活息息相关的社会技术结构;三是人工智能和机器学习存在基本控制问题,作为关键系统组建部署时会构成潜在危险。
他说,建立一个合作的人工智能国际治理机制,应该是敏捷的、适应性的、预见性的、响应性的、包容性的,“但是我们应该很清楚,如果没有中国和美国的参与,所有人工智能国际治理方案都只能是幻想。如果不大力转向国际合作,我们将无法成功度过未来几十年”。
“今天社会不仅仅是外卖小哥被困在算法里,我们每个人都被困在各式各样的算法里。”清华大学智库中心主任、智能社会治理研究院院长苏竣认为,人类即将从工业社会迈向以科技进步和智能技术为基础的智能社会,人工智能技术在颠覆性地重组人类社会的同时,也给人类社会的法律隐私、道德伦理、公共治理带来诸多严峻挑战。
他说,技术是中性的,算法是无辜的,在这场人工智能掀起的人类社会巨变中,需要科学的方法研究和应对科技发展带来的种种风险、问题和挑战。“开展人工智能社会实验、探索智能社会治理的中国道路”的倡议自2019年发起以来,经过两年多努力,已在全国有序展开,实现智能技术治理与智能社会治理齐头并举,将为构建有人文温度的智能社会作贡献。
加拿大国际治理创新中心总裁罗欣顿·麦德拉指出,人工智能治理体系在数据领域,要有全球所有国家都接受的数据伦理方面的标准,包括如何搜集数据、收集谁的数据、如何储存数据、如何整合数据、如何分析数据、如何加密、如何保证数据安全、如何使用数据等,“在全球层面共同创建普遍性的标准,它需要很多很多的努力,这就是我们这个世纪的治理挑战”。针对现在越来越多的全球价值链当中,因为机器的替代,很多工作机会被失去的问题,他建议由来自不同社会、不同文化或宗教背景的哲学家组建一个全球性委员会,来思考应对和解决之策。
清华大学人工智能国际治理研究院副院长梁正表示,当前,中国人工智能发展水平已跻身世界第一梯队,也肩负着参与国际治理规则制定的职责。因此,如何助力全球社会共同构建一个平衡包容的人工智能治理体系,需要进行系统思考,开展国际对话。(完)
【网络强国这十年】从换道超车到国民引擎!安天科技潘宣辰:“很自豪让技术融入产业”******
【网络强国这十年——行业回顾篇】
随着移动互联网快速发展和全面覆盖,移动安全威胁发生重大迁移:一方面,不良应用行为、欺诈诱导营销、用户欺瞒及隐私窃取等侵害用户权益的风险应用出现新一轮扩张;另一方面,移动互联网野蛮生长导致生态出现无序竞争局面,风险应用依附于移动互联网业务,正通过更加多样化的方式侵害用户权益,成为用户安全及权益新痛点,给整个产业的治理带来新的难题。
在我国移动安全行业发展版图上,安天移动安全通过将反病毒技术领先优势融入互联网产业,用“关口前移”的方式为超过30亿终端用户织密了移动应用风险防护网,也为主管部门提供了“良赢治理”方案和感知处置能力。
近日,安天科技集团执行总裁、武汉市网络安全协会会长潘宣辰,做客光明网“网络强国这十年”专栏,畅谈投身移动安全创业故事及行业发展的观察与思考。
投身移动安全创业,选择站在同一起跑线上的新赛道
2005年前后,85后青年潘宣辰还在武汉大学信息安全专业就读,这是国内第一个信息安全本科专业。在一次演讲授课上,潘宣辰结识了当时在武汉大学做兼职教授的网安前辈安天创始人肖新光(Seak)。
当时,我国在PC安全时代的核心技术还处于一个追赶的姿态。Seak给学生时代的潘宣辰渲染了一副宏大的国家安全及民族软件创新产业格局,并提出希望能找到一个新的技术领域或在一个新的操作系统平台上,可以由国内相关的研发团队自主去实现基础核心技术的突破和创新。
这个目标打动了潘宣辰。毕业后,在安天的支持下,他选择了移动安全方向创业发展。潘宣辰认为,PC时代几乎所有的技术,包括产品和商业模式在引入到移动场景后,都得到了进一步的叠加演进。结合移动特有的产业及生态结构,在移动安全方向上,必然会形成不一样的产业及生态安全需求,也同样会产生新的技术定义以及商业模式。
“得益于移动互联网的蓬勃发展,我们在这个全新的领域,和国内其他优秀厂商以及海外厂商相比,站在一个起跑线上,而且相比之下,安天以往在PC端积累的技术视野,在全新的领域进行技术架构和商业模式创新时,没有太多的历史包袱,又具有科班出身的发展优势。”潘宣辰说。
自主研发反病毒引擎,打破欧美安全厂商十余年独大
2010年以前,PC时代国内比较领先的安全厂商在海外的排行榜上并不是很靠前,最高排名第8位,多数徘徊在第10名左右。有了这个先例,潘宣辰和团队最开始设定目标是移动安全领域能够进入到世界前8位。
当时,团队初期的技术实力在移动领域优势并不明显。潘宣辰坦言,像海外的卡巴斯基、比特梵德,以及国内的瑞星、金山、360、腾讯等,其实都已经关注到,移动安全必然是未来一大趋势,当时大家都在积极投入技术研发。
深蹲之后,才能更好的起跳。最初,由于技术理念上有较大的差异,团队的优势并不明显。在和国内外厂商交流之后,才发现这是技术理念上的差异造成的。
比如,友商更多的是直接把PC时代的经验快速复制到移动时代,而安天是以本地检测算法引擎以及基于机器学习的专家智能分析工程平台运营体系为主,所以“工程化”传统较重,成果的形成需要较长时间的积累。
2013年前后,安天的优势开始凸显。当时,国际知名安全软件评测机构AV-Test的移动安全首次测评中,安天AVL移动反病毒引擎的检出率指标平均领先行业水平10%以上。这是国内安全厂商第一次在世界范围的反病毒领域呈现出技术压倒性优势,也就在那年,安天移动安全打破了欧美厂商的垄断,以100%的检出率成为首个获得AV-Test“移动年度最佳奖项”的亚洲厂商。
技术的真正价值,需要用市场和产业的方式来“回答”
在2014年取得核心技术突破的时候,他们也有卖掉团队的机会。潘宣辰和团队在“财务诱惑”和“产业挑战”之间,选择了后者。
潘宣辰认为,技术本身并没有常胜将军,也并不见得会永远占据优势。“这项技术到底是不是真的有价值,最终还需要用市场和产业的方式来回答。如果不去真正进入市场、进入产业的话,我自己觉得会特别后悔。因为这样就等于止步于技术了。”潘宣辰说。
安天移动安全在2015年开始探索商业化路径,选择了关口前移的产业融入线路。即通过选择与手机厂商广泛合作,通过操作系统级的嵌入式来进行技术落地,并且在这个基础上去构建新的商业模式。从2015年至今,安天威胁检测引擎为全球超过三十亿部智能终端设备提供了操作系统内置的安全检测能力。
“在移动安全的核心技术领域上,我们目前仍然保持着世界前列的水准。在检测这个技术点上,我们应该一直是第一第二的位置。”潘宣辰说。
监制:张宁
采访:李政葳
拍摄/后期:刘昊 李飞
配音:雷渺鑫
(文图:赵筱尘 巫邓炎)