敏感词管理
标签:
敏感词设置入口:客户端管理后台--信息--通用设置--敏感词汇管理
a、分类筛选
点击,选择敏感词分类,筛选该敏感词分类下加过的敏感词
b.输入要搜索的敏感词,点击搜索按钮,可搜索是否添加过要搜的敏感词

c.是否按正序排序,默认打勾,按添加时间从近到远排序。取消勾选则从远到近排序
d.分类列表,可添加敏感词分类,可编辑分类名称,可给对应分类添加敏感词词汇

e.添加,可批量添加敏感词,多个敏感词同时添加用英文“,”隔开;敏感词只能包含中文、小写英文及数字


f.导出记录,导出需要导出的敏感词

g.全部删除,会删除全部敏感词
h.添加过的敏感词,可对单个敏感词进行编辑、删除操作
需要注意的是,敏感词不可能完全阻拦违规内容,建议特殊时期,可以收紧审核权限,开启先审后发。app内容如何设置先审后发指南:http://www.qianfanyun.com/help/982
1.本地圈敏感词相关设置
入口:信息管理-本地圈管理-本地圈设置-基本设置
【敏感词相关设置】含敏感词的圈子和评论-待审/通过
待审:用户发布的圈子或者评论中,含敏感词,状态默认为审核,需要人工手动通过,才会显示,其他用户才能看见
通过:即使含敏感词,状态也是通过,直接显示

包含敏感词的内容,会标红 高亮显示。

2.视频敏感词相关显示
入口:管理后台--信息--视频/直播--评论列表
用户发布带有敏感词的内容会自动进入待审,需要人工手动通过,才会显示审核勾选含有敏感词,可快速查看

3.聊天相关显示
后台聊天记录中 涉及到后台设置的敏感词时会高亮显示,便于审核
入口:用户--聊天管理-聊天记录(只有admin账号可以查看)
说明:
a、默认显示最近两天内的所有聊天记录
b、发送者和接收者不要求同时搜索,若只搜索发送者,则会显示选定时间段内,发送者与其他人的聊天记录
c、为便于搜索不当的言论,可筛选选定时间内 含敏感词的聊天内容
d、聊天记录中的用户名显示顺序:发送者 to 接收者

4.用户注册相关
开启过滤用户名以后,app端注册与修改昵称(用户名)包含敏感词将无法完成
开启入口:APP管理后台--信息--通用设置--注册与访问设置


dz论坛设置入口1:全局--注册与访问控制--用户信息保留关键字,填写保留关键词,提交

dz论坛设置入口2:UCenter--注册设置--禁止的用户名,提交
5.帖子相关
带有app后台敏感词的帖子,后台会提示敏感词,但不会影响帖子本身的审核状态。
如果需要触发敏感词进入审核,则需要在论坛后台设置
dz论坛设置入口:管理中心--内容--词语过滤--批量添加,填写敏感词,提交

提交完成后,返回管理页面,对敏感词进行设置
新增敏感词(关键词)默认会被替换,如果需要审核,可以选择审核关键词,设置完成后提交,则带有审核关键词的帖子和回复会自动进入待审。

如果需要管理员或马甲身份不触发关键词,可以在用户组--基本设置内,忽略需要审核的关键词

若发帖禁止敏感词不提醒,可进行设置:解决discuz论坛发帖触发禁止关键字,在提示中显示触发的关键字https://bbs.qianfanyun.com/forum.php?mod=viewthread&tid=35375&extra=page%3D1
6.签名相关
审核开启入口:app管理后台--运营--信息安全--实时扫描--用户审核--审核设置

开启后,用户前端修改签名直接成功,后台生成记录,app敏感词会标红,点击【删除签名】则用户个人主页,签名置空。

关联设置:
1.搜索如何设置屏蔽或关闭?http://www.qianfanyun.com/help/1848
2.如何屏蔽历史内容(帖子、圈子)http://www.qianfanyun.com/help/2084
3.【AI审核】用户安全扫描 http://www.qianfanyun.com/help/1583
4.【AI审核】内容安全扫描 http://www.qianfanyun.com/help/1613
5.【AI审核】信息安全第三版-实时扫描 http://www.qianfanyun.com/help/1690