AI系统攻击怎么破？网络靶场练一练

技术发展是把“双刃剑”，一面可以帮助社会升级发展，一面也给了不法分子可乘之机，利用先进技术开展攻击与威胁的行为。

“大多数网络安全仍然需要依靠人工。”从事安全分析和自动化业务的Rapid7公司的董事长兼首席执行官科里·托马斯(Corey Thomas)在近日举办的《财富》杂志A.I.头脑风暴会议上谈到。戴尔科技全球首席技术官 John Roese指出，现在很多网络攻击受到机器智能、高级自动化技术支持。因此，依靠人力构建的网络防御体系会受限于响应速度，遭到攻击和危险。

人工智能技术迭代升级，深入应用到互联网、安防、城市和社会治理等各个领域，助力行业数字化、智能化升级的同时，催生出了对抗样本攻击、模型后门、模型窃取等专门针对人工智能系统的新型安全问题。行业企业需要更多更新的应对之策，培养预判能力，避免来自外界的破坏。

多年来，网络靶场已经成为全球各国争相布局的网络安全重要策略手段。在人工智能时代，面向AI技术的靶场建设也同样不可或缺。

AI技术进行网络攻击趋势走高

今年7月，来自康奈尔大学的3名安全研究人员发布的研究报告显示，恶意软件代码可以藏身于神经网络模型中，能够躲避侦测，甚至不影响该AI模型的性能。如今，基于AI技术的网络攻击已经出现了多种形式，比如通过开发恶意软件，更改其结构来避免被检测到；通过对抗样本等新型攻击技术，攻破人脸解锁、假冒身份认证、支付盗刷，干扰危险品识别，导致监控失效等恶性事件。“攻击手段自动化程度提升、隐蔽性增强。攻击者用AI模拟人行为绕过常规安全规则匹配的手段屡见不鲜，入侵检测和防护的难度水涨船高。”这是网宿科技在近日发布的《2021上半年中国互联网安全报告》中，针对网络安全发展预测的三大趋势之一。

安全可控人工智能系统提供商瑞莱智慧副总裁唐家渝指出，人工智能安全态势不断演化，新型攻击手段不断涌现，单一产品只能解决滞后问题，面对未知威胁的风险预判和策略调整能力不足。人工智能作为新型信息技术，行业存在专业人才不足与实战经验匮乏的双重困境。

网络靶场已成为各国网安“练兵场”

面对无处不在，层出不穷的网络安全问题，网络靶场建设已经成为世界各国抢先布局的新型网络安全战略。2008年，美国为巩固国家信息安全，保护和防御国家重要信息系统和关键基础设施免受侵害，开始筹建国家网络靶场（NCR ）；2010年，英国宣布建设联合网络靶场，用于安全地演练网络攻击和防御，并测试现有的网络软硬件，且靶场可用于商业用途；2013年，德国等政府开始针对工业控制系统等关键基础设施，建设如“国家SCADA测试床（NSTB）”等项目。

经过全球多年的演练证实，网络靶场对国家和社会各层面的安全保障均具有重大推进作用。建设面向AI技术的安全靶场，是人工智能时代保障网络安全的必要手段。

我国正处在人工智能产业发展与产业落地的关键时期，新技术带来了新风险，催生出对抗样本攻击、模型后门、模型窃取等专门针对人工智能系统的新型安全问题。   

随着产业进程的深入，这些安全风险的边界迅速扩散，逐步蔓延至互联网、安防、城市和社会治理等各个领域，危害到社会安全与国家安全。面对日益加剧的人工智能安全问题，政策层面对于建设针对性的防御机制开始加强重视。

2018年，中国贵州发布《贵阳市大数据安全管理条例》立法支持建设大数据安全靶场，并依托靶场逐年开展面向新兴技术的对抗演练；工信部在今年发布的《网络安全产业高质量发展三年行动计划（2021-2023年）（征求意见稿）》显示，要构建人工智能安全威胁分类体系，面向人工智能系统的生命周期，建立人工智能威胁模型，制定面向人工智能系统安全性检测与评估标准体系。研究人工智能系统可解释性、隐私性等安全要素，突破人工智能模型攻击与防御关键技术，设计实现人工智能系统自动攻防平台，构建人工智能安全靶场。

AI安全靶场迎接网络恶意“狙击”

“让风险发生在靶场，让有效防御构建在安全事件之前”。唐家渝指出，人工智能安全靶场好比“演兵场”，可以通过攻防实战演练，将安全风险暴露前置，提前发现和适应不断升级、多变的新型攻击和高级威胁。

近日，瑞莱智慧发布人工智能安全靶场RealRange，可通过预设训练场景模型、对抗攻防竞演等，帮助政企机构开展安全能力体系检验评估、培育新型安全人才，建设新型人工智能安全防御体系。

今年6月，为了完善AI安全与产业治理体系，清华大学联合阿里、瑞莱智慧联合发布面向AI的全新测试基准平台，旨在全面、客观、科学地衡量算法模型的安全性。

据唐家渝介绍，该靶场平台按照清华大学、阿里安全联合研发的AI对抗攻防基准，应用技术涵盖白盒攻击、黑盒迁移攻击等前沿对抗技术。

记者从瑞莱智慧相关负责人处了解到，该靶场具有三点优势，一是快速提升人员AI能力，通过研习多个难度不同的攻防靶场，快速熟悉 AI 安全代表性攻防算法培养实战人才；二是实战检测关键系统安全状态，通过将系统核心 AI 能力接入靶场平台进行攻防演练，在实战中检测 AI 系统的安全状态和防御能力；三是支撑改进现有系统安全性，通过对抗攻防演练经验的分析总结，对在对抗中暴露的弱点及时加以针对性的防护。

AI技术不断迭代升级，配套应用进一步向更多行业、领域拓展，安全的重要性日益凸显。产业界企业、专家学者开始探索如何确保技术的可靠性与安全性兼备。AI靶场作为保障AI系统安全的“练兵场”,是AI治理的重要一环，将推动AI产业健康发展。