鼎上注册后如何配置智能体敏感词过滤与内容安全审核

企业在鼎上注册后，可通过平台内置的内容安全模块配置敏感词过滤与审核机制，确保智能体输出符合国家法规与企业内部规范。具体操作包括进入安全配置中心、导入自定义词库、开启预置策略以及设置拦截动作。

适用情境

• 面向公众的客服智能体：需严格防止不当言论、违规信息输出，维护品牌形象。
• 内部办公智能体：需防止企业机密、财务数据等敏感信息在交互中意外泄露。
• 教育与内容生成智能体：需确保生成内容的价值观导向正确，符合行业监管要求。

可执行步骤

1. 进入安全配置中心

登录鼎上平台，在智能体管理后台找到“安全与合规”或“内容审核”模块，进入敏感词配置页面。

2. 配置自定义敏感词库

支持通过文件批量导入或手动添加企业专属敏感词。可设置匹配规则，如精确匹配、拼音匹配或模糊匹配，以提高拦截准确率。

3. 开启平台预置安全策略

在策略列表中，启用平台内置的基础拦截策略，涵盖涉政、涉黄、暴恐、违禁品等常见违规类别，构建基础安全防线。

4. 设置拦截与替换动作

配置触发敏感词后的具体处理方式。可选择直接拒绝回答、将敏感词替换为星号，或输出预设的兜底话术。

注意事项

• 定期更新词库：网络违规词汇更新频繁，需定期审查并补充自定义词库，保持过滤机制的有效性。
• 避免误杀正常词汇：在配置模糊匹配时，需在测试环境中充分验证，避免将正常业务词汇误判为敏感词，影响用户体验。
• 结合日志优化规则：利用鼎上平台的运行日志功能，定期审查拦截记录与用户反馈，持续优化过滤规则与兜底话术。