智能聊天机器人的合规应该如何做
437 浏览2023年07月14日作者:quzusheng

我们做了一个AI聊天的机器人,日期在上架的时候,审核一直被拒绝,一直回复:1.小程序(文字上传板块/图片上传板块)未做风险词以及风险内容过滤,且针对检测到风险内容需做不展示或输入无效处理,详见下方指引链接中9.5板块;2.小程序内会生成/返回违法、违规等不当信息内容,请拓展补充信息安全防护能力,确保输出内容的安全性


我们目前已经做一下操作:

  1. 用户结束输入,点击发送的时候,调用头条内容审核接口(https://developer.toutiao.com/api/v2/tags/text/antidirt),通过审核正常发送,否则弹窗显示文本内容存在不合规的问题。
  2. 当服务端返回生成内容的时候,我们将文字按句调用头条内容审核接口,通过审核则正常拼接,如果失败则改语句被丢弃。


现在不知道是哪里还需要加什么规范动作,请广大网友帮忙提点提点,不甚感激

最后一次编辑于 2023 年 07 月 14 日
1 条评论

相关问答

专题推荐

热门文章

热门问答