本方案构建了一套用户安全评级模型,定义了以通过率和高危违规与否为主要衡量指标的用户安全标准。无监督标注数据,基于各维度的历史行为和属性等特征,训练得到用户安全等级模型和高危用户检测模型;并融合两个模型的结果,准确地预测出用户的安全类型。之后,再结合AI内容安全检测的结果,筛选出安全的内容,极速通道审核发布。既降低了AI内容模型的计算资源和时间消耗;又大幅缩短了审核发布时间,提升了用户体验;并且,通过人工审核,确保了内容的安全可控。该智能化审核方案在UGC视频审核业务上线后,AI内容模型的计算资源减少了25%;优质视频的平均审核时长缩短了80%。后续,将继续探索通过优化标注方案和改进算法模型,以提高用户安全类别的预测准确性;同时对于图文审核、直播审核等业务,分别训练模型,以赋能更多业务。从而持续提升审核的时效和效率,优化用户体验,保障爱奇艺的内容安全。
也许你还想看
不同的AI视频推理场景下,如何构建通用高效的抽帧工具?
爱奇艺获ISO双认证 信息安全与用户隐私保障达到国际先进水平