数博会2025：360提出“以模制模”新范式，破解AI领域关键数据安全难题

数博会2025 360 以模制模

数据猿 | 2025-08-29 15:20

【数据猿导读】 2025中国国际大数据产业博览会（以下简称 “数博会”）期间，360数字安全集团总裁胡振泉受邀出席“数据安全治理与发展”交流活动。现场，他聚焦AI领域关键数据安全治理难题，系统剖析AI领域关键数据面临的内外部双重安全挑战，并提出“以模制模”新范式，以智能体为AI领域关键数据安全...

2025中国国际大数据产业博览会（以下简称 “数博会”）期间，360数字安全集团总裁胡振泉受邀出席“数据安全治理与发展”交流活动。现场，他聚焦AI领域关键数据安全治理难题，系统剖析AI领域关键数据面临的内外部双重安全挑战，并提出“以模制模”新范式，以智能体为AI领域关键数据安全治理提供可落地的实践路径。

AI领域关键数据安全风险进入“爆发期”

胡振泉表示，当前大模型技术加速落地、智能体规模化应用，AI已成为推动产业升级的核心动力。但技术红利背后，AI领域关键数据安全风险正进入“集中爆发期”，呈现“内忧外患”的态势。值得一提的是，针对AI系统的战略性攻击成大国博弈关键战场，黑客可借AI窃取核心数据、生成虚假内容、操控社会舆论，甚至破坏物理世界运行；专业化黑灰产组织更将AI与APT攻击结合，用AI生成木马、病毒等工具打造“数字黑客”智能体，加剧数据泄露与网络攻击风险。

“AI领域数据安全问题已远超传统网络与数据安全范畴。”胡振泉强调，AI安全问题可划分为传统安全、AI内容安全、AI应用安全及未来安全四大类，而其中最为关键的数据安全治理的核心，是确保数据承载的“信息”安全、合法、健康。当前，AI生成虚假数据用于欺诈、输出错误敏感信息、遭恶意提示词诱导泄露数据、因“幻觉”杜撰虚假数据等问题频发，不仅阻碍政企单位AI落地，更可能引发数据安全事故、意识形态扭曲等风险，对AI领域关键数据安全治理提出更高要求。

他进一步指出，传统安全手段难以应对AI数据安全新挑战。传统安全企业缺乏大模型深度研究能力，仅能解决基础数据安全问题；现有大模型企业对数据安全、内容安全认知不足，二者均无法突破AI领域关键数据安全治理瓶颈。

360“以模制模”构建AI数据安全治理新体系

在此背景下，360基于自身AI实践与数据安全治理经验，提出“以模制模”AI安全治理新范式——通过大模型安全卫士应对AI数据安全问题，实现“数网智安一体化”，筑牢AI数据安全防线。具体来看，可靠层面，结合安全大脑与私有化部署，保障数据存储、使用全流程安全；可信层面，借助RAG知识增强与搜索增强，减少大模型“幻觉”，保障输出数据准确性；向善层面，以内容护栏与风控大模型，防范AI被恶意利用生成有害数据；可控层面，依托Agent管控与全程审计，规避智能体被恶意操作导致的关键数据被不可逆的破坏。

在场景化落地过程中，360大模型安全卫士针对不同AI应用场景的特性，制定了差异化数据安全治理策略：面向境内AI公共开放服务，重点围绕“备案合规+全量数据内容安全审核”构建防护体系，确保服务符合监管要求与内容安全标准；针对政企私域AI专用服务，聚焦“客户隐私数据保护、企业机密数据防泄露、意识形态数据导向把控” 三大核心，匹配内部业务数据安全需求；对于政企跨境AI服务，则以“跨境数据访问权限管控、传输加密、存储合规”为关键，解决数据跨境流动中的安全与合规难题。

为将“以模制模”范式转化为实际防护能力，360大模型安全卫士进一步构建四大核心措施，形成AI数据安全闭环治理：一是内容安全智能体，通过幻觉抑制、内容护栏大模型，解决 AI 生成数据虚假、违规问题；二是 AI Agent 安全智能体，依托行为、权限、数据框架，规避智能体执行中的数据失控风险；三是软件安全智能体，识别 AI 供应链开源组件漏洞，从源头杜绝数据泄露；四是AI安全评估智能体，通过红蓝对抗靶场检测数据安全短板，强化防护能力。

作为数字安全及AI领域的“国家队”，360不仅具备AI产业实践经验与数据安全技术底蕴，更拥有大规模AI数据实战场景与高质量安全语料积累。360大模型安全卫士既为AI领域关键数据安全治理提供了“用AI解决AI数据安全问题”的创新思路，更能切实帮助政企单位突破AI数据安全防护瓶颈，为其数转智改注入强劲动力。

来源：数据猿

收藏分享

声明：数据猿尊重媒体行业规范，相关内容都会注明来源与作者；转载我们原创内容时，也请务必注明“来源：数据猿”与作者名称，否则将会受到数据猿追责。