安全审核基本上都应该包括以下四个基本方式:手工审核、用户投诉审核、机器审核、结果审核。
计算机审计
根据建立的规则或机器学习算法对内容安全审核。一般来说,一个成熟的审核系统可以自动审核和处理96%甚至99%的内容。如果确定有问题,将自动删除。如果难以判断是否存在问题,则将其标记并进入人工内容安全审核程序。
手动审查
虽然大多数时候用户投诉审核和结果审核也属于手工审核,但这里的手工审核是指审核机器无法区分的内容,通常占平台内容的不到5%。但对于一些大型内容生产平台来说,其实5%占比数量已经非常大。在内容爆炸的时代,我们可以看到很多平台在全国各地都有多个审计中心,每个审计中心都有数千甚至数万名员工。
检讨用户投诉
这是对前两者的一种弥补,有很多以前没有出现过的非法内容;因此,它不在规则过滤的范围之内,或者很隐蔽,很难严格过滤规则。用户投诉是发现内容审核新问题的重要渠道之一。通过用户投诉的危机事件,我们应该更加重视对投诉的审核,并及时补充相应的机器审核。
结果审查
它通常采用抽查的方式,例如,通过查看手工删除和传递的内容,可以看到员工的工作是否按照要求进行;比如检查被机器删除的内容,看看规则或算法是否过于严格;比如通过对内容的全面检查,看是否有未注意到的新问题。