敏感词管理

标签:

敏感词

设置入口:app管理后台--信息--通用设置--敏感词汇管理

image.png


可批量添加敏感词,多个敏感词同时添加用英文“,隔开;敏感词只能包含中文、小写英文及数字

需要注意的是,敏感词不可能完全阻拦违规内容,建议特殊时期,可以收紧审核权限,开启先审后发


1.本地圈敏感词相关设置

入口:信息管理-本地圈管理-本地圈设置-基本设置

敏感词相关设置

含敏感词的圈子和评论-待审/通过

待审:用户发布的圈子或者评论中,含敏感词,状态默认为审核,需要人工手动通过,才会显示

通过:即使含敏感词,状态也是通过,直接显示

需要注意的是,待审状态的圈子和评论,需要人工手动通过才会显示的意思是,其他用户能看见。

image.png

包含敏感词的内容,会标红 高亮显示。

image.png



2.视频敏感词相关显示

入口:管理后台--信息--视频/直播--评论列表

用户发布带有敏感词的内容会自动进入待审,需要人工手动通过,才会显示审核勾选含有敏感词,可快速查看

image.png


3.聊天相关显示

后台聊天记录中 涉及到后台设置的敏感词时会高亮显示,便于审核

入口:用户--聊天管理-聊天记录(只有admin账号可以查看)

     说明:
     a、默认显示最近两天内的所有聊天记录
     b、发送者和接收者不要求同时搜索,若只搜索发送者,则会显示选定时间段内,发送者与其他人的聊天记录

     c、为便于搜索不当的言论,可筛选选定时间内 含敏感词的聊天内容
     d、聊天记录中的用户名显示顺序:发送者  to  接收者

image.png


4.用户注册相关

开启过滤用户名以后,app端注册与修改昵称(用户名)包含敏感词将无法完成

开启入口:APP管理后台--信息--通用设置--注册与访问设置

image.png

image.png

dz论坛设置入口:全局--注册与访问控制--用户信息保留关键字,填写保留关键词,提交

image.png




5.帖子相关


带有app后台敏感词的帖子,后台会提示敏感词,但不会影响帖子本身的审核状态。image.png



如果需要触发敏感词进入审核,则需要在论坛后台设置


dz论坛设置入口:管理中心--内容--词语过滤--批量添加,填写敏感词,提交

image.png


提交完成后,返回管理页面,对敏感词进行设置

新增敏感词(关键词)默认会被替换,如果需要审核,可以选择审核关键词,设置完成后提交,则带有审核关键词的帖子和回复会自动进入待审。

image.png

如果需要管理员或马甲身份不触发关键词,可以在用户组--基本设置内,忽略需要审核的关键词

image.png



6.签名相关

审核开启入口:app管理后台--运营--信息安全--实时扫描--用户审核--审核设置

image.png

 开启后,用户前端修改签名直接成功,后台生成记录,app敏感词会标红,点击【删除签名】则用户个人主页,签名置空。

image.png


关联设置:

1.搜索如何设置屏蔽或关闭?http://www.qianfanyun.com/help/1848

2.【AI审核】用户安全扫描 http://www.qianfanyun.com/help/1583

3.【AI审核】内容安全扫描 http://www.qianfanyun.com/help/1613

4.【AI审核】信息安全第三版-实时扫描 http://www.qianfanyun.com/help/1690