南方都市报
鉴黄师软件网站的安装与设置应分为测试、接入、分级和复核四个阶段,先用非敏感样本验证流程⚡,再处理真实业务数据。
设置完成后,应使用一组已人工标注的测试样本进行验证。测试样本要包含正常内容、边界内容🎆、低清晰度图片、遮挡画面、不同肤色和不同拍摄角度,分别观察漏判率、误判率、响应时间以及人工复核量。
内容审核系统出现误判或漏判时,先区分模型识别问题、业务规则问题和人工操作问题,再决定是否调整阈值。仅仅把阈值调高或调低,可能会让另一类错误明显增加。
内容审核工具需要区分“明确违规”“疑似违规”“艺术或医学场景”“普通泳装或运动场景”等不同类别。只设置一个“合格或不合格”按钮,容易造成💪误杀,也难🎊以解释处理结果。
审核平台上线前必须完成安全和隐私检查,尤其要明确谁能查看原图、谁能导出结果、保存多久以及删除请求由谁执行。