文本审核
对帖子、私信、弹幕、简介等文字内容逐条判定,重点处理谐音替代、拆字变体、隐语黑话等规避手法。审核员依据判罚细则标注风险类型与等级,歧义项进入复核队列由资深岗二次判定,结论与理由均记录在案。
- 覆盖语种以中文为主,支持常规变体识别
- 适用社区、电商评价、私信等场景
- 按队列交付,输出处理结论与风险标签
从单条文本到整场直播,内容风险出现在每一个形态里。我们按内容类型拆分服务条目,每项都写清适用场景、执行方式与交付物,方便业务方按需组合:可以从单点切入试运行,也可以整链路托管。以下是九项服务的完整清单与要点。
对帖子、私信、弹幕、简介等文字内容逐条判定,重点处理谐音替代、拆字变体、隐语黑话等规避手法。审核员依据判罚细则标注风险类型与等级,歧义项进入复核队列由资深岗二次判定,结论与理由均记录在案。
识别违规图像、拼接暗示图与文字图片,同时结合发布场景判断语境,避免把医学科普、新闻报道等正常内容一刀切。审核结论区分删除、限流、仅记录等不同处置建议,供业务系统执行。
按关键帧与音频双轨审看,覆盖长视频、短视频与混剪二创。长视频按分段抽看加重点段精看执行,短视频全量过审;二创内容单独评估引用比例与改编语境,输出下架、限流或保留的分级建议。
对直播画面与实时弹幕做持续巡查,目标是秒级发现、即时处置。巡查员按场次分配,发现风险即时提示切断、降权或警告,场次结束后出具巡查记录,标明风险时点与处置动作。
处理语音房、连麦与音频投稿,采用转写加抽听结合的方式:转写捕捉显性内容,人工抽听判断语调、语境与暗示。审核关注对话往来而非孤立语句,避免脱离上下文造成误判。
清理评论区引战、灌水、违规引流与人身攻击,兼顾讨论氛围与表达空间。支持按话题维度批量处置,对高热度话题加密巡查频次;处置记录按评论、用户、话题三个维度归档。
为内容打上题材、场景、适龄、质量等标签,服务于分发与推荐的质量控制。标签体系在启动前与业务方共建,标注规则附判定示例,标注一致性按周期抽检校准。
针对某一类集中违规开展阶段性清理,从存量排查到增量拦截全流程执行。治理前明确范围与标准,过程中每日汇总进展,结束后出具治理报告,包含数量、类型分布与残留风险评估。
帮助业务方设计审核流程、时效指标、申诉机制与复核制度,输出可直接落地的方案文档。适合自建审核团队的平台参考外部经验,也适合业务扩张前重新评估现有链路。
可先阅读内容审核选型与采购指南,或直接联系我们沟通业务画像。