步骤三:人工筛选
虽然机器筛选已经能够做到足够少,但是还是总有一些人能够逃过层层盘查。这个时候就需要专业的人工来识别。

(图片来自暴走)
于是“鉴黄师”这个职位就诞生了。这个最初出现在公安部门,负责甄别、鉴定书籍、影像资料等是否涉黄,随着互联网的哦普及,像阿里巴巴这样的网络平台也在近三四年逐步设立“鉴黄师”岗位,“学名”是信息安全管控团队。
记者了解到,为了管理这样的情况,阿里巴巴安全部早就推出了“绿网”,针对阿里云用户,提供信息内容安全管控及内容安全检测服务。一旦网站内容涉及违规信息,绿网会第一时间进行消息提醒,并提供违规网页地址及快照查看功能,最大程度地阻止网络色情的蔓延。
步骤四:举报机制
人人都是小小鉴黄师,就需要各位小鉴黄师们的努力了。
例如,广大的朝阳群众就帮助社会破获了很多次涉黄事件。而腾讯也一直战斗在扫黄第一线,在查找自己内部涉黄信息的同时,还不忘帮助360云盘彻查涉黄事件。
总结:其实这个四个步骤并不是独立完成,而是相互作用的,例如,通过人工查找的违法色情信息,也会添加到机器识别群组中,久而久之,机器的识别越来越强大,将能够更加精准的分辨出什么是违法分子的信息。既满足了效果(靠机器学习模型每隔一段时间的精确判断),也满足了效率(MD5实时校验)。









