15页PPT 大模型安全治理:从基础设施到生态应用,构建全生命周期防护体系

随着大规模技术应用的不断深入，其安全风险已经渗透到从建模、推理到部署的全过程，涉及到基础架构、本体、环境和应用等多个层面。腾讯在多年的安全技术积淀的基础上，建立了一套全方位、全过程的“大数据”安全管理系统，为“大模型”的安全运营构筑了一道坚实的防线。

腾讯建立了覆盖基础设施、生产流程和安全运营的“三层安全管理架构”，其主要目的是达到法规和道德的双重标准。在底层，构建了“云防火墙”、“Web应用防火墙”和“主机与容器防火墙”等3个层次的防火墙体系结构。云防火墙在网络边缘执行两级的存取控制和危险阻断，以精确的权限管理和信息筛选，防止不正当的侵入和信息泄漏；WAF的重点是在应用层的防御，它能有效地防止SQL注入，跨站脚本，以及其他网络攻击，同时保证了API界面的安全性和数据的保密性；主机和容器安全则是系统的最终防护，它通过病毒检测、漏洞修复和异常监视等功能来保证系统的稳定。

腾讯在主体和数据安全保护方面，构建了完整的过程控制体系。数据处理部分，采用封闭式云计算开发环境，实现数据的存储隔离和访问审核，并对培训数据进行合规性检查和私密性筛选，有效地避免了数据中毒和泄漏的危险。针对模式互动安全性，开发了Prompt安全监控平台，该平台支持“越狱”、“指令劫持”等8种攻击方式的监控，涵盖了30多个风险场景，包括“个人隐私泄露”、“恶意软件生成”等。同时，“天御”采用“六维视屏”的内容审查机制，对视频、音频、图像、文字等信息进行全方位的过滤，对“涉黄”、“涉恐”、“涉黑”等不合法、不规范的信息进行拦截。

实战攻防演练在腾讯网络安全管理中起着至关重要的作用。2000多名安全督察官从黑客的角度进行仿真，累积采集了40000多个安全案例；朱雀实验室还在不断地进行有针对性的攻击试验，并在模型机制和开发框架等方面进行漏洞挖掘，不断地优化安全保护。此外，还将利用外界“白帽”众测和“蓝军”攻防演练，对保护系统的有效性进行全面测试，保证早期发现和修复漏洞。

同时，腾讯也在不断地推进产业标准化的进程，联合CSACloud Security Alliance共同开展了“大模型安全评估”的相关工作，并参加了《大模型供应链安全要求》的审查，并获得了WDTA颁发的“AI安全、诚信、责任标准化实验室”的证书。通过标准建设和技术输出，帮助业界更好地进行大型模式的安全管理。

该治理系统已经在混元大模型及相关的软件中得到了成功的实现，并对各种恶意信息和攻击进行了有效的拦截，保证了模型运行的安全性和稳定性。腾讯通过技术创新和实战验证，提出了一套可复制和推广的大型企业网络安全治理的解决方案。