AI时代安全非小事

科技日报记者 刘艳

国家网络安全宣传周收营，同往年一样，总有些话题格外引人议论和关注。今年，人们看到在人工智能技术的支持下，我们正在共同构筑一个更为安全的世界。

针对这个网络安全的新命题，腾讯信息安全执行委员会主任、腾讯公司安全管理部副总经理杨鹏表示，人工智能技术路线丰富将改善安全困境，但人工智能的本体安全决定安全应用的发展进程。

没有一个国家可独立应对

AI安全考验

随着网络空间安全呈现出智能化、隐匿性、规模化的特点，让网络空间安全的防御、检测和响应面临更大的挑战，网络空间安全成为人工智能国际间合作的重要领域。

“就如一枚硬币的两面，人工智能既带来好处，也带来风险，它对国家安全的影响非常大，大到我们现在都无法确定。”联合国人工智能和机器人中心主任伊莱克利.伯利兹在接受科技日报记者采访时强调，人工智能为解决网络安全事件、系统漏洞、信息保护等提供了更加高效、智慧的解决方案，但同时也容易被非法利用。

伊莱克利.伯利兹说：“面对技术规范、行业标准、法律法规尚未健全的人工智能新领域，为了消除不透明和分歧，避免恶意的竞争，应对现阶段人工智能的发展充分评估，并建立起各方参与的协同合作模式，制定统一的安全监测标准、安全防范架构、安全评估体系。没有任何一个国家，可以独立完成这件事。”

当人工智能越来越多地被应用到战略决策辅助系统和智能军事系统，基于人工智能的技术代差将对国家安全力量对比产生不可逆的影响，迫切需要审视人工智能对维护国家安全提出的新要求。

上海赛博网络安全产业创新研究院和上海社科院互联网研究中心的联合课题组发布的《人工智能时代的国家安全：风险与治理》报告提出，应从提升风险意识、完善治理体系、加强监管能力和探求国际合作等来构建风险分析和应对框架，提升国家安全的韧性。

对抗还是对抗手段却在升级

虽然安全对抗本质上就是看谁铸的门槛更高，但人工智能时代也让黑客们迎来狂欢，为安全产业带来颠覆性影响。

中国信息通信研究院副院长王志勤“2018世界人工智能大会·人工智能安全高端对话”上特别强调：“人工智能的发展要趋利避害。”

虽然越来越多的案例显示，“智能网络武器”日益威胁著网络安全，但人工智能在各类安全场景中形成的多种多样解决方案，也正加速用于网络安全漏洞检测、恶意软件识别、不良信息智能审核、防范网络犯罪等领域。

如中国科学院院士何积丰亦所说：“在功能安全方面，软件测试验证正变得更加智能化，在信息安全方面，主动防御体系同样愈发智能化。”

骚扰诈骗电话和垃圾简讯一直是困扰手机用户的难题，其潜藏的诈骗风险让用户饱受财产损失之苦，而腾讯基于反欺诈 AI 模型建造能力研发的“宾果反诈骗防控系统”3月上线投入使用以来，全国重点诈骗区域诈骗号码大幅下降接近70%，预警超过50000起，准确率超过99%，覆盖全国31个省区市，累计为民众避免损失20亿元。

中国科学院复杂系统管理与控制国家重点实验室主任王飞跃表示，网络安全系统的实力，很大程度上可能并不取决于其物理本身，而是取决于与其伴生的软件定义的人工系统映像。

人工智能安全防护能力

首先冲击汽车行业

大量人工智能新技术和网联功能的引入，首先让汽车行业面临全新挑战，信息安全将成为汽车行业的“国防”，汽车品牌的重要能力将向信息安全迁移。

科恩安全实验室是全球知名的安全研究团队，2016年曾通过移动网络识别、准备和实施攻击场景等技术成功发现特斯拉的重要漏洞，并遵循负责任的漏洞披露方式把漏洞威胁情况提交给特斯拉官方，供其完善智能防御系统，保障智能车辆安全。

据说，为了保证车辆的网络安全，特斯拉从 Google、微软和苹果等公司挖来了工程师组建安全团队，专门做产品安全分析和漏洞修复等工作。

北京市政协委员陈小兵说：“特斯拉在所有车企中算是对网络安全最为重视的一家，但依然被挖出了严重漏洞。目前很多传统车企尚未组建专门的网络安全团队，并且车载系统非常容易受到攻击。”

不仅仅是智能车辆系统本身的安全，百度AI安全技术总监聂科峰说：“汽车产业已全面进入智能网联时代，智能车机所面临的安全挑战不仅涉及用户隐私安全、财产安全层面，同时延伸到人身和公共安全层面。”

腾讯科恩实验室总监吕一平认为，透明、分享和行业合作对于形成更加全面安全的互联网世界至关重要，其研究目标和成果将有助于改善许多国家数以亿计的司机、乘客和行人的交通出行安全。

智能制造安全问题凸显

在智能制造成为热点话题的同时，全球大量的工业设备却因为缺乏基础的安全保障，正成为黑客甚至是全球不法分子攻击的目标。

中国电子学会副理事长兼秘书长徐晓兰对科技日报记者说：“智能制造是解决工业生产困境最重要的抓手，没有工业互联网智能制造很难取得突破性发展。”

现实情况却是，工业互联网领域的安全事件继续呈高发状态，2017年影子经纪人泄露的NSA网络武器库，包含众多工业互联网系统漏洞，可以实现对设备的精确打击。我国国家信息安全漏洞共享平台（CNVD）统计结果亦显示，2017年新增信息安全漏洞4798个，其中工控系统新增漏洞数351个，与2016年同期相比，新增数量几乎翻番。

百度安全副总经理沈鹏飞说：“物联网、车联网、工业互联网的兴起，打破了虚拟世界与现实世界间的最后一道屏障，传统的安全防御方案已经无法应对AI时代面临的各种安全问题。”

在应对恶意攻击之外，工业互联网自身的安全问题同样不可忽视。

美的库卡机器视觉AI研发总监胡正表示，人机协作的机器人是未来的趋势，但机器人导致工人死亡的事件每年都有，保证人在操作过程中不受机器人的侵害，不仅在技术层面还有很大的挑战，业界对这一问题的重视程度普遍存有侥幸心理。

安全伦理不只是学术讨论

人们希望看到机器变得很聪明，但也会担心会相对变傻，这种小纠结如今虽然更多的体现在人工智能的学术领域，但业界越来越多的人为，人工智能的研发和应用，需要优先考虑伦理规范问题。

人工智能先驱、图灵奖得主Raj Reddy说：“从60年代到现在，许多人都对人工智能抱有误解，认为人工智能的发展会取代人类，并非如此，我们的愿景始终是希望AI能延伸人的知觉，强化人的能力，帮助人类更好更快地完成多样的工作。”

但是，伊莱克利.伯利兹也说：“随着人工智能的进一步使用，人类20-30%的工作会被取代，虽然又会创造新的工作，但如何平衡人工智能和社会经济发展、社会发展和安全稳定之间的关系，不让失业问题导致社会安全形势恶化，需要找到好的契合点，这是产业未来的重要使命之一。”

峰桥集团总裁陈实认为，各国都应重视对人工智能安全伦理规范的思考，将技术发展与社会伦理置于相同的环境下充分思考，减小人工智能带来的伦理冲击，保证人工智能在全世界共同的伦理规范内健康发展。

来源：科技日报 文中图片来自网络

编辑：陈小柒

审核：王小龙