视频直播：内容安全

使用限制

目前仅部分直播中心支持直播智能审核，具体支持该功能的直播中心，请参见服务地域。

智能审核

• 背景

  主播推送的直播流可能有内容违规风险，视频直播服务提供了支持视频、音频的智能审核，通过自动化、智能审核媒资库资源，极大降低色情、暴恐、涉政等内容违规风险，降低人工审核成本。

• 介绍

  智能审核服务基于海量标注数据和深度学习算法实现，从语音、视觉等多维度精准识别直播流媒体信息中包含的违禁内容，支持涉黄识别、暴恐涉政识别、广告识别、无意义直播识别、音频审核等多个功能模块。

  • 视频审核：采用截帧画面进行审核，自动检测视频直播的内容是否涉嫌违规，违规的内容将会通过回调的方式返回给用户，用户可对违规内容进行处理。

  • 语音审核：采用识别直播流中音频流的内容，自动检测语音内容是否涉嫌违规，违规的内容将会通过回调的方式返回给用户，用户可对违规内容进行处理。

  具体功能如下：

  功能名称	Scene	描述	检测结果分类
  鉴黄识别	porn	识别直播中的色情内容。	正常图片、性感图片、色情图片
  暴恐涉政识别	terrorism	识别直播中的暴恐涉政内容。	正常图片、血腥、爆炸烟光、特殊装束、特殊标识、武器、涉政、打斗、聚众、游行、车祸现场、旗帜、地标、其他
  图文违规识别	ad	识别直播中的广告信息。	正常图片、含其他广告、含牛皮癣广告、含二维码、含小程序码
  不良场景识别	live	识别直播中出现的黑屏、黑边、昏暗画面，画中画，抽烟，打架等不良场景图片。	正常图片、无意义图片、画中画、吸烟、车内直播
  图片logo识别	logo	识别直播中出现受管控的logo和商标。	正常图片、含受管控的logo、含商标
  语音审核	antispam	检测音频中是否包含垃圾信息、广告、涉政、暴恐、辱骂、色情、灌水、违规、无意义等内容。	正常文本、含垃圾信息、广告、涉政、暴恐、辱骂、色情、灌水、违禁、无意义、自定义（例如命中自定义关键词）

• 使用方法

  • 前置条件

    1. 需要开通直播服务，并配置一个有效的直播域名。

    2. 需要一个HTTP服务用于接收异常视频或语音的回调信息。

  • 使用流程

    1. 添加智能审核配置。

    2. 配置回调地址。

    3. 完成配置后，推流即开启语音审核。

       说明

       审核只对于配置结束后的新推流生效，对于已有推流不会立刻生效。

  • 控制台

    视频审核：支持配置视频审核的审核模板和回调地址，具体操作，请参见配置审核。

    音频审核：不支持。

  • API

    视频审核

    接口	描述	参考文档
    AddLiveSnapshotDetectPornConfig	添加直播视频审核配置。	添加直播审核配置
    DeleteLiveSnapshotDetectPornConfig	删除直播视频审核配置。	删除直播审核配置
    UpdateLiveSnapshotDetectPornConfig	更新直播视频审核配置。	更新直播审核配置
    DescribeLiveSnapshotDetectPornConfig	查询直播视频审核配置。	查询直播审核配置
    AddLiveDetectNotifyConfig	添加直播视频审核回调配置。 默认格式请参见视频审核默认回调格式说明。	添加直播审核回调配置
    DeleteLiveDetectNotifyConfig	删除直播视频审核回调配置。	删除直播审核回调配置
    UpdateLiveDetectNotifyConfig	更新直播视频审核回调配置。	更新直播审核回调配置
    DescribeLiveAudioAuditNotifyConfig	查询直播视频审核回调配置。	查询直播审核回调配置

    语音审核

    接口	描述	参考文档
    AddLiveAudioAuditConfig	添加直播语音审核配置。	添加直播语音审核配置
    DeleteLiveAudioAuditConfig	删除直播语音审核配置。	删除直播语音审核配置
    UpdateLiveAudioAuditConfig	更新直播语音审核配置。	更新直播语音审核配置
    DescribeLiveSnapshotDetectPornConfig	查询直播语音审核配置。	查询直播语音审核配置
    AddLiveAudioAuditNotifyConfig	添加直播语音审核回调配置。用户可以根据自己需求自定义回调JSON格式。 默认格式请参见语音审核默认回调格式说明。	添加直播语音审核回调配置
    DeleteLiveAudioAuditNotifyConfig	删除直播语音审核回调配置。	删除直播语音审核回调配置
    UpdateLiveAudioAuditNotifyConfig	更新直播语音审核回调配置。	更新直播语音审核回调配置
    DescribeLiveAudioAuditNotifyConfig	查询直播语音审核回调配置。	查询直播语音审核回调配置

• 计费规则：智能审核包括直播图片审核和直播语音审核，图片审核以您使用审核服务的图片扫描张数为结算标准，语音审核以您使用语音审核服务的总时长为结算标准。更多信息，请参见智能审核费用。

禁推直播流

使用方法

• 控制台：视频直播支持在控制台查看禁推流、设置禁推流和恢复禁推流。设置禁推流，请参见在线流管理。查看或恢复禁推流，请参见禁推流管理。

• API

  接口	描述	参考文档
  ForbidLiveStream	禁止某路流的推送。 可以配置是否只断流不加入黑名单，预设某个时刻将流恢复。 说明 禁止直播流的上限为10,000路，超出限制将禁用失败。调用频率限制为20次/秒。	禁止直播流
  ResumeLiveStream	恢复某路流的推送。 说明 调用频率限制为30次/秒。	恢复直播流

  java sdk设置禁推流的示例代码如下：

          //需要<>内容替换成实际使用的值
          DefaultProfile profile = DefaultProfile.getProfile("<regionId>", "<ALIBABA_CLOUD_ACCESS_KEY_ID>", "<ALIBABA_CLOUD_ACCESS_KEY_SECRET>");
          IAcsClient client = new DefaultAcsClient(profile);
          ForbidLiveStreamRequest forbidLiveStreamRequest=new ForbidLiveStreamRequest();
          forbidLiveStreamRequest.setDomainName("<DomainName>");
          forbidLiveStreamRequest.setAppName("<AppName>");
          forbidLiveStreamRequest.setStreamName("<StreamName>");
          forbidLiveStreamRequest.setLiveStreamType("publisher");
          try {
              ForbidLiveStreamResponse forbidLiveStreamResponse = client.getAcsResponse(forbidLiveStreamRequest);
              System.out.println(new Gson().toJson(forbidLiveStreamResponse));
              // todo something.
          } catch (ServerException e) {
              // TODO Auto-generated catch block
              e.printStackTrace();
          } catch (ClientException e) {
              // TODO Auto-generated catch block
              e.printStackTrace();
          }

  说明

  • 以上示例代码表示对域名<DomainName>，<AppName>下<StreamName>的主播推流（LiveStreamType=publisher）进行禁推设置，默认禁止时间为6个月。

  • LiveStreamType目前仅支持publisher。

  • 使用JAVA SDK，具体请参见Java SDK使用说明。

视频审核默认回调格式说明

只会对于有问题的视频内容进行回调通知，通知内容包含问题视频截图的审核信息和存储信息。

{
 "DomainName": "example.com",
 "AppName": "liveApp****",
 "StreamName": "liveStream****",
 "OssEndpoint": "oss-cn-hangzhou.aliyuncs.com",
 "OssBucket": "liveBucket****",
 "OssObject": "liveObject****.jpg",
 "Result": [
     {
         "BizType": "example.com",
         "Result": [
             {"Label": "Porn", "Rate":11, "Suggestion": "review", "Scene":"porn", "Extent": {}},
             {"Label": "Ad", "Rate":11, "Suggestion": "review", "Scene":"ad", "Extent": {}}
         ]
     }
 ]
}
                    

语音审核默认回调格式说明

只会对于有问题的音频内容进行回调通知，通知内容包含问题语音的文本信息以及最近一分钟内的上下文信息。

{
    "domain": "example.com",
    "app": "liveApp****",
    "stream": "5d9747eba39b44769852d276f9ff****",
    "timestamp": 1572248095,
    "result": [
        {
            "scene": "antispam",
            "label": "ad",
            "suggestion": "block",
            "rate": 99.91,
            "details": [
                {
                    "startTime": 1572248023,
                    "endTime": 1572248040,
                    "text": "大理陇川等酒店免费居住权120天居住权可与亲友共享来云栖社国际烧酒店接待中心地址芒市团结大街96号一一ktv旁咨询热线2285699",
                    "label": "ad"
                },
                {
                    "startTime": 1572248040,
                    "endTime": 1572248070,
                    "text": "典藏经典别墅尊享梁河金塔、旅游小镇二期滨湖苑地区11月2号盛大开盘天然龙窝、泉水入户户型多样，设计经典价位超值，值得您拥有开盘当天还有超值优惠，欢迎您前来品鉴，凭借地址，然和县遮岛镇先锋路229号分享热线069269557776955777",
                    "label": "normal"
                },
                {
                    "startTime": 1572248072,
                    "endTime": 1572248077,
                    "text": "快乐的时光，有你相伴惬意的日子，格外轻松。",
                    "label": "normal"
                },
                {
                    "startTime": 1572248078,
                    "endTime": 1572248086,
                    "text": "fme043忙里偷闲音乐时光有歌曲温暖，有你想念影院。",
                    "label": "normal"
                }
            ]
        }
    ]
}