筑牢人工智能发展的安全屏障

随着人工智能技术的快速迭代与应用场景的泛在渗透，智能鸿沟、算法偏见、数据泄露、深度伪造、系统失控等新型安全风险正呈现出加速蔓延态势，其潜在威胁已突破传统技术治理框架的应对边界。经济合作与发展组织对全球人工智能事件的监测数据显示，2024年人工智能风险事件总数较2022年增加了约21.8倍，呈现急速增长态势。近6年间，在所发生的人工智能风险事件中，约74%与安全问题直接相关。其中，2024年与安全直接相关的人工智能风险事件数量同比增长了约83.7%。

2025年4月25日，习近平总书记在中央政治局第二十次集体学习时强调，“人工智能带来前所未有发展机遇，也带来前所未遇风险挑战。要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控”。在推进人工智能健康有序发展进程中，以法律规范为保障，技术端需构建技术检测网络、完善风险预警机制、打造应急响应体系，筑牢人工智能发展的安全屏障，加快形成具有中国特色的人工智能发展范式。

坚守伦理准则防线。在顶层设计层面，制定统一的人工智能伦理准则，推动《人工智能伦理治理标准化指南》从倡议性文件向强制性标准的转换落地，将公平性、透明性、可解释性等价值要素嵌入算法设计准则。在政府层面，建立人工智能伦理审查委员会机制，对重大人工智能项目进行前置伦理风险评估。在企业层面，建立企业伦理治理“双审机制”，即内部设立伦理审查委员会，外部引入第三方机构对算法进行年度伦理审计，并将结果纳入企业信用评价体系。在公共领域，实施“伦理一票否决”机制，对存在加剧数字鸿沟、诱发群体歧视风险的项目禁止立项，禁止违背人类尊严、加剧社会歧视的人工智能应用进入民生场景。同时，鼓励高校开设人工智能伦理通识课程，培育兼具技术能力与人文素养的复合型智能人才，从人才源头上塑造“智能向善”的科技基因。

健全法律法规体系。首先，制定专门的人工智能基本法。立足我国国情与技术发展实际，加快制定专门的人工智能基本法，明确研发主体、平台企业、终端用户等多方责任边界。其次，完善相关配套法律法规。一方面，对网络安全法、数据安全法、个人信息保护法等现行法律法规中与人工智能发展不相适应的条款，应对其进一步细化和补充，使法律法规能够高效、科学、完备地覆盖人工智能领域的各类问题。另一方面，完善跨境治理规则，建立跨境数据流动、模型开源共享等场景下的适配法律机制，积极探索“数据主权沙盒”机制，明确数据跨境传输的合规边界。最后，加大监管执法力度。明确监管主体及其职责，确保相关法律法规得到有效执行。

构建技术监测网络。一方面，建立覆盖“数据——算法——算力——系统”全要素的技术检测网络。在数据层面，建设国家级人工智能技术监测平台，对万亿参数以上大模型实施数据来源标签化管理、训练数据溯源追踪和能耗动态监测，实时追踪数据采集合法性、数据清洗规范性。在算法层面，研发“算法显微镜”工具包，对推荐系统的信息过滤规则、生成式人工智能建立内容的合规性进行动态扫描，通过异常行为模式识别触发预警。在重点行业部署人工智能异常行为感知节点，实时捕获模型歧视、隐私泄露等风险信号。此外，构建并扩大开源社区监测联盟，对高风险模型代码（如深度伪造生成工具）进行自动化标记，防止技术恶意和肆意扩散。另一方面，建立涵盖“政产学研用”多方主体的协同监测机制。加强政府、企业、科研机构、社会组织等之间的合作与协同，形成宽领域、多维度、全方位的技术监测网络。

完善风险预警机制。多维度构建风险评估模型，完善人工智能风险预警机制。技术层面，建立涵盖数据质量、算法偏差等的风险评估指标体系。社会治理方面，整合舆情分析、用户投诉、专家研判等多元信号，开发“人工智能风险热力图”，实时显示生成式人工智能虚假信息传播链路。政府方面，搭建多模态风险情报分析系统，聚合网络舆情、用户投诉、测试漏洞等多源数据，实现从技术缺陷到社会风险的穿透式预警。尤其是对深度伪造、自动驾驶等场景实施分级预警。同时，建立“风险沙盒”模拟平台，通过数字孪生技术推演人工智能失控情景，提前制定应急预案与响应机制。

打造应急响应体系。设计“平战结合”的应急管理框架。常态化阶段，要求平台企业建立“模型熔断——数据隔离——产品修复”的标准化响应流程。危机响应阶段，构建政企协同的人工智能安全事件联合处置机制，组建跨部门人工智能应急指挥中心，整合网信、工信、公安等相关部门，建立“初步研判——影响遏制——溯源整改——持续监测”的作战时序。同时，还要加强信息发布的及时性与沟通的有效性。对内，要建立权威的风险信息发布渠道，及时、准确地向公众发布人工智能风险预警信息，避免信息不对称引发社会恐慌和市场混乱。对外，要建立全球人工智能安全事件共享数据库，增强跨国协同处理能力，避免风险跨境溢出。