智能审核基于海量标注数据和深度学习算法实现,从语音、文字、视觉等多维度精准识别视频、封面、标题等违禁内容,包括色情、暴恐、政治敏感等多个审核类型,广泛应用于短视频平台、传媒审核等场景,可有效提高视频的审核效率。本文为您介绍如何自定义智能审核模板并进行智能审核。
应用场景
UGC内容审核
海量UGC(用户生成内容)上传的视频,通过视频智能审核技术,快速检测违规内容,识别媒体质量问题,有效减少人工审核的工作量。
点播内容审核
高效识别点播视频中的涉暴、涉政类镜头,紧跟时政动态,严控违规内容。
审核类型
审核类型 | 类型描述 | 审核结果分类 |
涉黄 | 检测媒体文件中是否包含色情、性感内容。 | 正常、色情、性感 |
暴恐涉政 | 检测媒体文件中是否包含暴恐或涉政类内容。 | 正常、血腥、爆炸烟光、特殊装束、特殊标识、武器、涉政、打斗、聚众、游行、车祸现场、旗帜、地标 |
广告识别 | 检测视频、图片中是否包含广告和文字违规信息。 | 正常、文字含涉政内容、文字含涉黄内容、文字含辱骂内容、文字含暴恐内容、文字含违禁内容、文字含其他垃圾内容、牛皮癣广告、含二维码、含小程序码、其他广告 |
不良画面检测 | 检测视频、图片中是否包含黑屏、黑边、昏暗画面、画中画、吸烟、车内直播等不良场景。 | 正常、图片中无内容(例如黑屏、白屏)、画中画、吸烟、车内直播 |
logo识别 | 检测视频、图片中是否包含logo信息,例如台标,商标等。 | 正常、含受管控的logo、含商标 |
语音反垃圾 | 检测视频、音频中是否包含语音垃圾信息,如广告、涉政、暴恐等。 | 正常、含垃圾信息、广告、涉政、暴恐、辱骂、色情、灌水、违禁、无意义、自定义(例如命中自定义关键词) |
费用说明
视频点播的智能审核为收费服务,按审核视频总时长计费,计费详情请提交工单了解。关于如何提交工单,请参见联系我们。
注意事项
审核标准将遵循中国的法律法规,包括且不限于《中华人民共和国刑法》、《网络安全法》、《互联网信息服务管理办法》、《计算机信息网络国际联网安全保护管理办法》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等。
目前仅华东2(上海)、华北2(北京)和新加坡地域支持使用智能审核服务。
新加坡地域目前仅支持对涉黄、暴恐涉政和不良画面检测这三个类型的审核。
音视频的最终审核结果由人工审核和智能审核结果共同决定,但人工审核的结果始终高于智能审核结果,即当人工审核和智能审核结果不一致时,按人工审核结果生效。
经过媒体审核的音视频,仅状态为正常(Normal)时才能正常播放,状态为屏蔽(Blocked)或审核中(Checking)的音视频只能在视频点播控制台播放或通过审核安全IP进行播放,您将无法通过API/SDK获取到音视频的播放地址用于播放,但对于已经外泄的有效播放地址仍可以正常播放。
前提条件
如何使用
步骤一:(可选)配置智能审核模板
视频点播提供了系统预制的智能审核模板,并作为智能审核的默认审核模板。如果系统预制的模板不能满足您的需求,您可以按需自行创建智能审核模板。
预制模板无法更改配置和删除,其配置如下:
审核类型:暴恐涉政、鉴黄
审核范围:视频、封面、名称
审核内容:画面
最多支持添加20个自定义的智能审核模板。
步骤二:(可选)配置事件通知
建议您发起智能审核任务之前,配置视频点播的事件通知,以便在智能审核任务完成后,能从接收到的回调消息中获取到智能审核任务的状态及审核结果等信息。事件通知的配置方法,请参见回调设置。
智能审核需要开启的事件通知类型如下:
需要开启音视频分析完成,接收音视频分析完成事件通知回调后,才能调用SubmitAIMediaAuditJob - 提交音视频智能审核作业接口发起审核任务。
需要开启视频AI处理完成,所有AI处理都共用此开关,接收智能审核完成事件通知回调。
步骤三:发起智能审核作业
配合视频点播工作流能力的应用,可以实现在视频点播中上传音视频时自动触发智能审核,或在上传音视频后手动触发智能审核。
步骤四:查看审核结果
智能审核结果中的图片资源仅在点播提供的免费存储上保留2周时间,超过2周将自动删除。
如果您已配置事件通知,可以通过接收智能审核完成回调消息获取审核结果详情。