【AI审核】信息安全第三版-实时扫描

需要论坛插件版本1.4.1版本 升级地址:http://www.qianfanyun.com/help/1301


后台信息安全新增实时扫描设置,新增帖子主题屏蔽及圈子主题屏蔽的设置方式

新增七牛图片处理,开启后会对所有上传到七牛的附件进行扫描记录,并在后台支持对违规附件进行封禁,删除操作,减少因为七牛附件违规导致的问题,若不开启则仅记录所有上传的附件,不会进行扫描处理,该处扫描与帖子主题,帖子评论,圈子主题,圈子评论扫描共享扫描附件结果,不需要二次付费。

但由于存在成功上传到七牛但未发布的附件,可能会存在其他费用。例如用户发帖上传图片后取消发帖,这个附件就会上传到七牛附件,但是在帖子主题审核页面就不会展示。

允许对帖子,帖子评论,圈子,圈子评论,用户信息进行设置是否开启实时扫描,开启帖子,帖子评论,圈子,圈子评论的实时扫描后会在对应的审核页面出现对应的审核结果,包含对文本,图片,视频的实时扫描,并将扫描结果展示,请注意,该功能开启后会按照每天真实的扫描量在云后台进行扣费!!

image.pngimage.png


本地圈审核页面

image.png

image.png


本地圈回复审核页面

image.png


帖子审核页面

image.png


帖子回复审核页面

image.png



七牛图片处理

新增七牛图片处理菜单,后台展示所有上传到七牛的附件,并根据设置展示扫描结果,支持对图片进行封禁或删除操作,

在封禁或删除后,七牛对应的附件则无法访问,减少因为七牛附件违规导致的问题。

支持筛选扫描正常,扫描违规,扫描疑似,待检测,已删除,已封禁的状态。

请注意,由于此处上传的附件为附件原地址,在封禁或删除原地址后会直接刷新原图的cdn,但是部分存在原图后缀的附件的cdn可能会出现刷新不及时的情况,建议在对应主题或回复的审核页面进行操作封禁或删除附件。

image.png


以帖子主题扫描为例

被扫描出违规的附件会在不通过下方出现【不通过并封禁违规附件】和【不通过并删除违规附件】按钮,

点击即可一键封禁或删除该主题内的所有违规附件,并且刷新该附件储存在七牛的绝大多数的cdn缓存,也可以将鼠标悬浮在附件上,会出现对应的封禁和删除按钮,点击即可对该附件进行封禁或删除

image.png

image.png




用户信息实时扫描

用户信息实时扫描包含用户名,头像,签名开启后,注册或修改用户名、头像和签名会实时扫描;

用户名存在问题则提示用户名违规,头像会根据头像审核设置进行审核,签名会根据签名审核设置进行审核。

由于用户名实时扫描会在用户注册的时候对用户名进行实时扫描,并对违规用户名提示违规,可能会影响用户的注册,所以新增【用户名注册敏感词审核】以及【注册用户名敏感重置功能】,

用户名注册敏感词审核】关闭后,则不对用户注册时的用户名进行实时扫描,允许用户进行注册。

册用户名敏感重置功能】开启后,在用户注册时即使存在违规也允许进行注册,但是用户名若被判断为违规,那么在注册成功后自动重置该用户名并提示用户可通过手机号进行登录,如需改名请联系管理员。

image.png

image.png


用户头像审核移动至信息安全扫描下方

新增扫描结果展示,用户修改的头像将直接进行扫描,并将扫描结果展示在头像审核页面。

先改后审功能不变,用户修改头像后,直接在个人主页展示新头像,若后台审核不通过,则显示默认头像。

新增先审后改设置,若设置为先审后改,则用户修改头像后,提示用户需要管理员进行审核,并在个人主页展示新头像并提示审核中,其他用户查看仍为老头像,若后台审核通过,则替换为新头像,若后台审核不通过,则保留原头像。

image.png

image.png



用户签名审核移动至信息安全扫描下方

新增扫描结果展示,用户修改的签名将直接进行扫描,并将扫描结果展示在签名审核页面

image.png


改名记录移动至实时信息扫描用户审核内,并新增帖子审核,本地圈审核的跳转入口

image.png