本文原载《社会治理》四月刊，人工智能时代的国家安全专题。受到篇幅所限刊登时有删减，本文是完整版本。

人工智能风险，不是一般性的技术安全问题，也不是简单的事故或质量隐患的防范，其衍生于网络安全，但又超越网络安全。全球国家或非国家行为体从自身安全和发展利益诉求出发，不仅运用人工智能于发展中，还将人工智能投入到竞争和对抗性活动中。人工智能的发展，将全面提升竞争与对抗的组织效率，改变竞争与对抗的资源需求结构，深远影响原有的战略平衡。

一、应高度重视人工智能技术带来的安全风险

人工智能发展必然经历新技术的风险伴生与加速过程。在网络信息领域，新技术发展必然伴生着对旧风险的加速“改造”、对新风险的创造，以及自身成为风险侵害对象的过程。

人工智能不可避免地带来网络攻击活动的变革。其对攻击杀伤链全过程都有强赋能作用，包括不限于：提升整理信息情报和挖掘攻击入口的效率、增强攻击编排和自动化能力、提升针对入口发起攻击的能力、增强恶意代码的开发效率甚至自动化编写恶意代码、改善免杀构造和突防能力、增强构建高针对性的社会工程话术以欺骗网管人员及用户的能力、增强漏洞和脆弱性发现能力、增强对安全机制的规避能力以及增加全过程攻击统筹能力等。

人工智能不可避免地带来一系列新的风险形态。其中不仅包括因其代替人类承载判断决策职能后，可能产生的失误所带来的影响远超传统自动化系统失误的综合后果，更有人工智能被威胁行为体主动运用、持续创新的威胁形态。超低成本的深度伪造，已经在认知干扰、网络犯罪中被广泛利用。未来更需要直面和应对脑机接口等技术广泛应用后带来的心智侵害等潜在风险。

人工智能不可避免地成为攻击目标。由于其数据采集、预处理、模型训练、评估优化、部署应用的复杂甚至是黑箱的工作过程，其全生命周期中必然面对数据投毒、隐私窃取、模型攻击、恶意利用等风险行为。人工智能服务需要依赖算力平台基础设施来支撑其运行，承载主体不可避免地成为了攻击者新的攻击目标。人工智能大模型技术的训练和推理，依赖海量的硬件资源、数据资产和复杂的应用环境，这使大模型平台成为新的信息资产汇聚地，但同时，大模型基础设施和应用入口也成为用户和节点的新暴露面，面临着日益严峻的风险挑战。

攻击活动是穷尽威胁行为体资源与能力的复合行为，风险趋势最终也必然合流与纠缠在一起，形成叠加、加速与演进。例如，以人工智能赋能的网络攻击活动，入侵高度智能化的关键系统后，以智能体的方式持久化并不断演进进化，造成持续而又难以觉察的影响，并最终导致关键系统崩溃，严重影响国家安全和社会安全，这已经是必须直面的敌情想定。

与此同时，人工智能正驱动对抗模式重塑。从信息化到数字化转型所伴生的风险，是系统侧风险向业务侧和数据侧的逐步放大的过程。而从数字化到智能化伴生的风险，则是风险层次从数据侧和业务侧进一步上移至心智侧和治理侧的过程。这也使网络攻击活动在对人机运行体系的攻击中，可以更多地将攻击点施加于更接近人一侧，从而绕过布设于机器侧依托特征工程和知识工程体系的传统防线。

对抗与战争和人类社会的发展形影相伴，对抗形式贯通着物理空间、网络空间和认知空间。对抗的模式，从原始部落间的（物理）搏斗与（心智）嘶吼，演化到今天复杂的行为体之间的竞争、博弈、对抗乃至战争的形式。对抗范式包括基于物质和能量的物理对抗、基于介质和数据的信息对抗、基于系统和环境的运行对抗、基于信息和影响的认知对抗。随着现代网络成为现代社会组织能力和军事体系运用的“筋脉”，成为连接物理社会和认知心智的最大界面，网络空间不可避免地成为常态化对抗领域。人工智能作为人类智慧在网络空间延展，其不仅全面改变物理空间中的能力运用效率，也使认知对抗逐渐成为诸多对抗范式中的主导范式。

二、正确看待人工智能发展与安全风险的辩证关系

不发展是最大的不安全。只有立足于快速发展，才能形成发展与安全的新平衡。从信息化到数字化再到智能化，这是不可逆的历史趋势。因担心风险而阻滞发展，不仅不会带来安全，反而会因为发展缓慢形成更大的战略安全被动。在外部竞争和威胁始终存在的背景下，安全不只来自于我们对自身技术发展的安全规划，更来自于主要压力方之间，在有效创造、掌握运用技术上的加速度比拼。因此，应立足让发展的增益远大于风险的影响，以快于竞争对手的发展加速度和优于竞争对手的安全与治理能力，渐进构建发展中的安全防线。

人工智能的发展将带来网络安全的巨大增益。每一种新技术带来风险的同时，也会成为应对风险的重要手段。例如，互联网带来了安全威胁的快速流动，但也为安全能力的分发、安全运营的快速闭环构造了基础条件。云计算带来了体系性的攻击风险，增加了导致整体崩溃的可能性，但云应用也为重构强治理支撑的统一安全防护带来契机，从而构建更具弹性的防御机制。人工智能技术同样正在深度改变网络安全的防御能力和运行机制。在网络安全的工作体系中，从威胁捕获、分析，到支撑威胁分析的特征工程与知识工程体系，均可借助人工智能技术实现加速发展。在实际防御场景里，鉴于当前用户资产规模庞大、信息系统应用繁杂且接入泛在，在如此复杂的资产运维体系中保障安全，涉及海量数据的分析、研判，以及相应的响应与决策，对网络管理者的专业水平要求很高。引入人工智能技术后，有望全面提升网络安全从保障目标对象体系到产品赋能产业体系的防护效果和水平，提高防护智能化程度，有效降低对网络安全工作者的经验依赖，同时解放网络安全工作者，让他们得以将精力投入到与人工智能配合开展更深入、有效的工作中。以安天的反病毒引擎共性技术研发为例，安天“澜砥”大模型已经能以数兆大小的体积，达成与传统数百兆大小的规则库（数千万条规则）几乎一致的检测效果，并具有极强的抗衰减能力。这说明了新技术发展兼具威胁加速器和缓冲器的双重属性。但新技术的安全增益不是自然产生的，而是需要主动塑造和创新应用的。

三、以历史的主动性和自觉性把握人工智能安全与发展的历史主动

人工智能在具体应用中因其在数据、流程、算法、机理方面的缺陷导致的各种事故，已经有若干案例，并且后续还会不断增加。在人类工业自动化的历史上所经历的新生事物风险，在智能化中必然还要再次经历。从长远来看，人工智能的自我“觉醒”甚至“越狱”，当然是需要关注和防范的安全风险。但将其视为人类因好奇心而从潘多拉盒子里放出的魔鬼，并仇视人工智能，制造全体恐慌，则是一种反对进步的立场。人类对新事物的好奇心和恐惧感，都是人的本能之一，前者驱动探索与进步，后者驱动安全与治理。

更需冷静分析的是——西方舆论场一直塑造的“天网觉醒”式的人类未来。仿佛人类的敌人并不是推动网络空间军事化的霸权国家机器和利益集团，而是先天具有中立属性的技术。从而将人类的焦虑转向“技术异化”的现象，而非“技术异化”的根源。这是工业时代将被压迫阶级的愤怒导向“机器”的升级版本。此时，我们需要重温马克思的语录，“一个毫无疑问的事实是：机器本身对于把工人从生活资料中‘游离’出来是没有责任的。”人工智能作为革命性的新技术，其走向怎样的未来，当然是人类命运的若干选题之一。但人工智能的安全不可避免地同国家主权、安全与发展利益问题深入结合在一起，其绝不是可以脱离国家、民族与阶级的普适化安全命题。

技术风险的核心从来不在新技术本身，而在于技术为谁所有、为谁所用，以及如何做好技术自身的安全应用。关键在于，技术是掌握在热爱和平与正义的国家手中，还是掌握在热衷于战争与霸权的国家手中？是更好地运用于社会治理、服务于人民生活，还是为侵害他方、获取私利？作为被霸凌侵害一方，在霸权方，构造和运用技术垄断的时候，是加速自主发展，打破垄断，还是龟缩自保，停止不前？关于这些命题的选择，才从根本上决定了新技术会成为人类的福祉红利，还是风险之源。

霸权国家幻想依托算力限制、脱钩断链、数据资源封锁等多种方式，对我国构造人工智能的“小院高墙”壁垒，我们更需要加速人工智能的发展，并推动面向全球数字治理的人工智能“平权”运动。

在霸权国家全面加速人工智能的军事和情报运用过程中（包括微软、谷歌等信息复合体企业，向信息军工复合体的快速转化），中国的网络安全工作者和产业主体更应破除原有的唯市场化思维定式，以高度的历史自觉主动融入国家安全大局，构建支撑国家战略安全的产业布局，以立场、意愿、能力和历史贡献，支撑能够成长为构成中国战略竞争力和战略威慑力的产业主体，构建人工智能时代国家战略网络空间安全产业体系，筑牢国家网络安全屏障。

中国的科技工作者、战略新兴企业要做的工作，是把新技术把握在中国人自己手里，让技术更好地服务于历史的进步性和正义性，并为人类文明发展做出更大贡献。