AI 安全防护

AI Guardrail（AI 安全防护）为通过 AI 网关的模型交互提供安全检测，帮助识别恶意提示词、不当内容和敏感信息泄露风险。对于 AI 智能体（Agent），还可以检查工具调用参数，例如待执行的命令或数据库查询。

该功能目前处于 Beta 阶段。如需开通，请联系您的商务对接人，说明账号、模型或智能体的使用场景、所需防护类型，以及是否涉及个人信息或敏感业务内容。

防护范围

AI Guardrail 支持以下检测，具体范围取决于已启用的安全策略。

防护能力	检测内容
提示词注入与越狱攻击检测	诱导模型忽略原有指令、泄露信息或绕过安全限制的攻击，包括通过角色扮演发起的尝试。
内容过滤	请求和响应中的色情、暴力、仇恨言论等不当内容。
个人信息检测	请求和响应中的姓名、电话号码、住址、证件号码等个人信息，支持对检出内容自动脱敏。
企业数据防泄露（DLP）	请求和响应中源代码、密钥、财务报表、内部文档等企业敏感信息的泄露风险。
智能体工具调用防护	根据内置或自定义规则，检测工具调用参数中的危险命令、存在注入风险的数据库查询等高风险操作。

只有经过网关并启用相应策略的流量受到防护。绕过该接入路径的流量不在检测范围内。

风险处理方式

检测命中后，系统按安全策略处理。可用的处理方式因防护类型而异：

• 仅检测：记录安全事件，该策略不拦截或修改内容，适合先观察实际风险。
• 拦截：阻止命中的请求或响应继续传递，或阻止工具调用执行。
• 个人信息脱敏：替换检出的个人信息，再转发请求或返回响应。

例如，请求中包含电话号码时，个人信息策略可以在请求到达模型前将其脱敏。如果采用仅检测模式，号码保持原样，同时记录命中事件；采用拦截模式，则停止传递该请求。

个人信息、企业数据防泄露和工具调用检测支持自定义规则，可用于识别内部密钥格式等业务特有的数据特征。初次启用时，可以先使用仅检测模式，结合事件记录评估命中情况，再按需要启用拦截或个人信息脱敏。

查看和追溯安全事件

风险概览展示请求拦截、敏感数据检出及风险变化趋势。调查具体事件时，可查看命中规则、风险级别、内容摘要和处理结果，作为调整策略的依据。

对于通过服务接入的智能体，工具调用记录还会展示会话内的调用顺序和参数，便于追溯相关活动。

接入与数据处理

申请开通时，可向商务对接人获取适用于您账号的接入与策略配置指南，并确认各防护类型的处理方式、事件访问权限，以及数据保留和删除规则。

如果还需要记录模型请求的完整报文，请先了解日志内容与下载链接的处理要求。安全检测和个人信息脱敏策略并不决定日志内容的处理方式，两者需要分别确认。