新华社
机器识别也可能出现两类问题:把正常内容误判为违规,或者没有识别出经过裁剪、遮挡、变速、拼接和隐晦表达的风险内容。提高模型准确率需要大量标注数据,而标注本身仍然离不开人工人员的专业判断。
内容审核人员通常需要区分成人向表达、艺术或医学材料、正常性教育、性暗示营销、色情交易信息、未成年人相关内容以及涉及偷拍、传播隐私的违法内容。判断依据不是个人好恶,而是适用法律、平⭐台规则、上下文和传播目的。
“鉴黄师”的“免费”生活之所以容易被误解,是因为旁观者只看到“能够接触内容”,却看不到审核人员必须长时间面对重复、刺激和高压材料👍。工作人员接触这些内容并不代表享受内容,岗位目标恰恰是尽快识别风险并完成处置。
“鉴黄师”面对的工作对象并不只有明显色情图片或视频。审核任务还可能包括文字、评论、头像、直播画面、短视频封面、私信、群组消息和搜索联想词,内容形态越复杂,判断难度越高。
职业压力通常来自几个方面:第一,部分画面可能引发强烈不适;第二,规则更新后需要迅速改变判断标准;第三,处理量和时效要求可能很高;第四,误判可能影响账号、投诉和平台风险;第五,长期重复📚接触相似刺激会让人产生麻木、焦虑、失眠或🔍情绪低落。
“免费”内容的第一层成本由平台承担,第二层成本由审核人员承担,第三层成本则💫可能由整个网络环境承担。当低门槛内容持续争夺注意力时,平台需要投入更多人力识别重复上传、擦边营销、诱导点击和违规传播。