企业如何应对人工智能带来的网络安全挑战？
企业如何应对人工智能带来的网络安全挑战？
ETSI TS 104 223：构建人工智能（AI）网络安全的基石
AI安全：为何比传统的系统和网络安全更复杂？
人工智能（AI）正以前所未有的速度渗透到各行各业，驱动着企业的数字化转型和业务创新，从智能客服到自动化生产。然而，随着AI的广泛应用，其固有的安全风险也日益凸显。AI系统的安全风险源于其独特的组成部分和生命周期。它不仅仅是代码和基础设施的安全，更涉及：
- 数据的安全与完整性：训练数据的偏差、污染或泄露直接影响模型性能和安全性。
- 模型的脆弱性：模型本身可能成为攻击目标，如通过对抗样本绕过检测，或通过模型反演攻击泄露训练数据信息。
- 训练与推理过程的风险：训练环境的篡改、推理阶段的恶意输入都可能导致不可预测或有害的输出。
- AI系统的全生命周期的网络安全需求：从数据获取与管理、模型设计、训练、部署到运行和维护到生命周期终止，每个环节都可能引入新的网络安全风险。
这些复杂性使得传统的安全评估工具和方法难以全面应对，企业需要更专业的视角和技术手段来布局AI网络安全框架，预防潜在的安全风险。
ETSI TS 104 223：AI系统网络安全评估的国际基石
2025年4月，国际标准组织欧洲电信标准协会（ETSI）发布了 ETSI TS 104 223 技术规范，标题为《Securing Artificial Intelligence (SAI); Baseline Cyber Security Requirements for AI Models and Systems》。这项规范首次为AI模型和系统建立了基线网络安全要求，旨在确保AI在整个生命周期都具备必要的安全防护能力，为AI系统的安全提供了一个里程碑式的框架。
| 原则1 | 提升对AI安全威胁和风险的意识 |
| 原则2 | 在AI系统设计中平衡安全性、功能性和性能 |
| 原则3 | 评估威胁并管理AI系统风险 |
| 原则4 | 确保人类对AI系统的责任监管 |
| 原则5 | 识别、追踪和保护资产 |
| 原则6 | 保障基础设施安全 |
| 原则7 | 确保供应链安全 |
| 原则8 | 完善数据、模型和Prompt的文档记录 |
| 原则9 | 开展充分的测试和评估 |
| 原则10 | 建立与最终用户和受影响实体的沟通机制和流程 |
| 原则11 | 定期实施安全更新、漏洞修补与风险缓解 |
| 原则12 | 监控系统行为 |
| 原则13 | 确保数据和模型的妥善处置 |
ETSI TS 104 223 并非孤立的存在。国际上还有开放式Web 应用安全项目(OWASP)等组织也在积极贡献AI安全领域的框架和资源（例如OWASP AI Exchange），共同推动并建立AI安全最佳实践。
这些标准和框架的出现，强调了一个核心理念：“安全内嵌设计”（Security by Design）和“责任可追溯”（Accountability）对于AI系统而言不再是可选的加分项，而是必须遵守的底线。
DEKEA德凯：赋能企业筑牢AI系统网络安全底线
尽管ETSI TS 104 223提供了清晰的框架，但转化为企业实践并非易事。这需要深厚的AI技术理解、专业的安全评估方法以及丰富的实践经验。作为深耕网络安全领域的国际第三方检验检测认证机构，DEKRA德凯具备对最新AI网络安全标准的快速解读与专业转化能力，为企业提供系统性的安全评估与测试服务。
通过详实的技术报告，DEKRA德凯助力客户精准识别AI系统中的网络安全漏洞与潜在风险，并结合国际标准提出优化建议，协助企业通过架构调整、流程重建或技术加固等方式，提升其AI系统的安全性与可信度。
您可获得：
- 更安全和可扩展的AI安全治理框架
- 规避监管与法律风险
- 增强客户和合作伙伴的信任
- 提升企业在市场中的品牌竞争力与前瞻形象