【AI审核】内容安全扫描

目前仅支持DZ站点,需要更新插件至1.3.9版本,插件下载地址:http://www.qianfanyun.com/help/1301

PW站点需要自行开发

运营菜单下历史信息扫描父菜单,将用户安全扫描移动至历史信息安全扫描父菜单下,新增帖子安全扫描,帖子评论安全扫描,帖子楼中楼扫描、圈子安全扫描,圈子评论安全扫描
image.png


操作流程:
1.以帖子安全扫描为例,点击新增帖子安全扫描按钮
image.png


2.设置对应需要扫描的帖子内容和时间段

请注意,帖子视频内容由于无法准确统计,所以仅为预估,每10个帖子或每500个帖子评论存在一个视频内容,若介意该预估与实际存在的价格不符,建议不进行帖子视频或帖子评论视频的扫描

设置完成后会自动计算预估价格,预估价格与实际价格可能存在出入,点击后会生成一条订单,在扫描完成后进行扣费,需要注意,这边如果千帆余额不够支付预估价格的费用,是需要充值后才能进行扫描
image.pngimage.png


3.确认扫描内容后会生成一条正在扫描的新数据,待扫描完成后,根据实际价格进行扣费,进入云后台可查看对应费用明细,点击处理违规进入对应违规内容处理页面。
image.png

4.违规内容处理页面会在上方提示扫描的总信息量,扫描的时间;

根据扫描时选择的扫描内容,展示对应时间段内的违规内容,文本违规会以敏感词标红展示,图片违规会加上红色边框,点击视频违规可以查看具体抽帧审查的图片详情和违规图片,会以红色边框展示对应违规视频抽帧截图;

由于三方扫描违规可能存在疑似违规且无具体违规内容,所以可能存在部分筛查出来的内容无具体违规内容,需要人工进行判断,内容仅支持全部删除或设为合规,不支持单独对内容进行编辑处理。
image.pngimage.png


5.需要点击合规或删除才视为完成,外部列表会根据对应已处理违规内容进行统计展示。
image.png