【AI审核】用户安全扫描

目前仅支持DZ站点,需要更新插件至1.3.7版本  插件下载地址:http://www.qianfanyun.com/help/1301
PW站点需要自行开发

App管理后台新增用户安全扫描菜单,展示所有用户安全扫描的历史记录。

访问入口:App管理后台--运营--信息安全--历史信息扫描--用户信息扫描

image.png

操作流程:
1.点击新增用户安全扫描按钮
image.png


2.设置对应需要扫描的用户内容和时间段,设置完成后会自动计算预估价格,预估价格与实际价格可能存在出入,点击后会生成一条订单,在扫描完成后进行扣费,需要注意,这边如果千帆余额不够支付预估价格的费用,是需要充值后才能进行扫描
image.pngimage.png

3.确认扫描内容后会生成一条正在扫描的新数据,待扫描完成后,根据实际价格进行扣费,具体扣费可前往云后台查看对应费用明细,点击处理违规进入对应违规内容处理页面。
image.png

4.违规内容处理页面在上方会提示扫描的总信息量,扫描的时间,

下方扫描用户名展示扫描时的用户名,扫描头像展示当前头像,扫描个性签名展示扫描时的用户个性签名;站点可以前往论坛修改用户名,头像支持设置为论坛默认头像,签名支持清除签名,设置后可以在用户详情内查看更多细节内容。
下方展示所有扫描出来存在违规或疑似违规的内容,存在问题的内容会以红色标识展示出来,若排查无问题可点击右侧通过;

若有问题,可针对有问题的部分进行处理,例如清除签名、设为默认头像等;

若问题较大可进行注销或删除操作。

注:

1.目前app端注销的用户在dz论坛会被迁移至【禁止访问用户】组,用户仍能被搜索到,如果担忧违规用户会带来不良影响可以进行用户主页屏蔽设置,操作指南:http://www.qianfanyun.com/help/1840

2.用户被删除后,将清理该用户所有发布过的内容包括帖子,圈子,回复,视频,该操作不可恢复!用户绑定的手机号、微信等三方会被自动解绑(qianfan插件1.5.2及以上版本),如果需要限制被删除用户的手机号重新注册,可在删除前将手机号加入黑名单,黑名单操作指南:http://www.qianfanyun.com/help/1795

主要排查的问题有:涉政,恐暴,涉黄,其他。

image.png


app后台在注销用户前需要注意,pc同步注销是否已开启,未开启,则app后台操作的注销对论坛端不生效

image.png



5.处理好对应违规内容后需要点击通过或注销才视为完成,外部列表会根据对应已处理违规内容进行统计展示。
image.png