一文了解中国推出的智能体安全产品—问境AIST

直击痛点：目前安全痛点都有哪些？

随着大语言模型（LLM）与生成式人工智能的爆炸性增长，企业在享受技术红利的同时，也面临着前所未有的安全风险。传统的安全边界正在消解，新的攻击向量层出不穷。AI用系统，其本质上仍是复杂的软件系统，但由于其所依赖的大语言模型有着与传统应用完全不同的构建和运行方式，这为企业带来的新的安全难题。仅仅将传统安全工具应用于AI开发和运营流程中是远远不够的，企业需要重新构建AI应用的风险检测和运营监控体系。

应对挑战：AI应用的核心安全挑战有哪些？

• 推理过程“黑盒”：大语言模型的决策过程不透明，使得传统基于规则和日志审计的安全模式难以奏效。
• 全链路数据安全风险：AI应用高度依赖数据，从训练数据、检索增强生成（RAG）知识库，到用户输入的个人隐私数据和企业私有数据，任何环节的数据泄露或污染都可能导致灾难性后果。
• 内容安全与合规风险：大语言模型可能生成虚假、有害或带有偏见的内容，给企业带来严重的声誉和法律风险。
• 新交互引入的复杂攻击面：多模态、Function Calling、MCP、AI Agent 等全新的交互方式，在提升用户体验的同时，也引入的新的技术债务和更复杂的攻击向量。
• 供应链安全的传递效应：AI生态系统严重依赖开源组件、预训练数据和第三方API，这加剧了供应链的脆弱性，风险会沿着依赖链路迅速传递和放大。

OWASP Top10 for LLM

为了系统性应对AI应用安全的挑战，行业组织OWASP分别于2023年和2025 年发布了针对大语言模型的十大风险清单，如下图所示：

提示词注入、不恰当的输出处理、数据和模型投毒、供应链风险等，已成为 AI 安全领域关注的重点。结合近期发生的安全事件，如针对AI基础设施Ray框架的“ShadowRay”攻击、字节跳动AI模型训练投毒、DeepSeek 数据库泄露以及 GitHub MCP 的二阶提示词注入漏洞等，都印证了这些威胁的真实性和严重性。

为了应对以上安全挑战，悬镜问境 AI安全