敏感词管理

标签:

敏感词

设置入口:客户端管理后台--信息--通用设置--敏感词汇管理
image.png

a、分类筛选

点击,选择敏感词分类,筛选该敏感词分类下加过的敏感词
image.png


b.输入要搜索的敏感词,点击搜索按钮,可搜索是否添加过要搜的敏感词

image.png

c.是否按正序排序,默认打勾,按添加时间从近到远排序。取消勾选则从远到近排序
image.png

d.分类列表,可添加敏感词分类,可编辑分类名称,可给对应分类添加敏感词词汇
image.pngimage.png

e.添加,可批量添加敏感词,多个敏感词同时添加用英文“,”隔开;敏感词只能包含中文、小写英文及数字

image.pngimage.png

f.导出记录,导出需要导出的敏感词

image.png

g.全部删除,会删除全部敏感词
image.png

h.添加过的敏感词,可对单个敏感词进行编辑、删除操作
image.png


需要注意的是,敏感词不可能完全阻拦违规内容,建议特殊时期,可以收紧审核权限,开启先审后发。app内容如何设置先审后发指南:http://www.qianfanyun.com/help/982


1.本地圈敏感词相关设置

入口:信息管理-本地圈管理-本地圈设置-基本设置

敏感词相关设置含敏感词的圈子和评论-待审/通过

待审:用户发布的圈子或者评论中,含敏感词,状态默认为审核,需要人工手动通过,才会显示,其他用户才能看见

通过:即使含敏感词,状态也是通过,直接显示

image.png

包含敏感词的内容,会标红 高亮显示。

image.png



2.视频敏感词相关显示

入口:管理后台--信息--视频/直播--评论列表

用户发布带有敏感词的内容会自动进入待审,需要人工手动通过,才会显示审核勾选含有敏感词,可快速查看

image.png


3.聊天相关显示

后台聊天记录中 涉及到后台设置的敏感词时会高亮显示,便于审核

入口:用户--聊天管理-聊天记录(只有admin账号可以查看)

     说明:
     a、默认显示最近两天内的所有聊天记录
     b、发送者和接收者不要求同时搜索,若只搜索发送者,则会显示选定时间段内,发送者与其他人的聊天记录

     c、为便于搜索不当的言论,可筛选选定时间内 含敏感词的聊天内容
     d、聊天记录中的用户名显示顺序:发送者  to  接收者

image.png


4.用户注册相关

开启过滤用户名以后,app端注册与修改昵称(用户名)包含敏感词将无法完成

开启入口:APP管理后台--信息--通用设置--注册与访问设置

image.png

image.png


dz论坛设置入口1:全局--注册与访问控制--用户信息保留关键字,填写保留关键词,提交

image.png

dz论坛设置入口2:UCenter--注册设置--禁止的用户名,提交
image.png




5.帖子相关


带有app后台敏感词的帖子,后台会提示敏感词,但不会影响帖子本身的审核状态。image.png



如果需要触发敏感词进入审核,则需要在论坛后台设置


dz论坛设置入口:管理中心--内容--词语过滤--批量添加,填写敏感词,提交

image.png


提交完成后,返回管理页面,对敏感词进行设置

新增敏感词(关键词)默认会被替换,如果需要审核,可以选择审核关键词,设置完成后提交,则带有审核关键词的帖子和回复会自动进入待审。

image.png

如果需要管理员或马甲身份不触发关键词,可以在用户组--基本设置内,忽略需要审核的关键词

image.png

若发帖禁止敏感词不提醒,可进行设置:解决discuz论坛发帖触发禁止关键字,在提示中显示触发的关键字https://bbs.qianfanyun.com/forum.php?mod=viewthread&tid=35375&extra=page%3D1


6.签名相关

审核开启入口:app管理后台--运营--信息安全--实时扫描--用户审核--审核设置

image.png

 开启后,用户前端修改签名直接成功,后台生成记录,app敏感词会标红,点击【删除签名】则用户个人主页,签名置空。

image.png


关联设置:

1.搜索如何设置屏蔽或关闭?http://www.qianfanyun.com/help/1848

2.如何屏蔽历史内容(帖子、圈子)http://www.qianfanyun.com/help/2084

3.【AI审核】用户安全扫描 http://www.qianfanyun.com/help/1583

4.【AI审核】内容安全扫描 http://www.qianfanyun.com/help/1613

5.【AI审核】信息安全第三版-实时扫描 http://www.qianfanyun.com/help/1690


问Ai
千帆AI助手 在线

您好!我是千帆AI智能客服

有什么可以帮助您的?