全部產品
Search
文件中心

Content Moderation:同步檢測

更新時間:Jul 06, 2024

本文介紹調用視頻同步檢測介面(/green/video/syncscan)審核視頻內容的方法。視頻審核協助您檢測視頻中的風險或違規內容,具體包括以下情境:視頻智能鑒黃、視頻暴恐涉政、視頻圖文違規、視頻不良情境、視頻logo。

使用說明

業務介面:/green/video/syncscan,表示視頻同步檢測。

您可以調用該介面建立視頻同步檢測任務。關於如何構造HTTP請求,請參見請求結構;您也可以直接選用已構造好的HTTP請求,更多資訊,請參見SDK概覽

  • 計費資訊

    該介面為收費介面。關於計費方式,請參見Alibaba Content Security Service產品定價

    同時檢測多個情境的情況下,將按照每個情境的檢測視頻截幀數量×每個情境的單價進行累加計費。

  • 檢測對象

    視頻同步檢測介面只支援通過上傳視頻截幀圖片的方式進行檢測。如果您想通過上傳視頻URL的方式進行檢測,推薦您使用視頻非同步檢測介面。

  • 視頻截幀要求

    • 視訊框架連結支援以下協議:HTTP和HTTPS。

    • 視訊框架支援以下格式:PNG、JPG、JPEG、BMP、GIF、WEBP。

    • 視訊框架大小限制為10 MB以內。

    • 視訊框架像素建議不低於256*256(px),像素過低可能會影響識別效果。

    • 視頻檢測介面的回應時間依賴視訊框架的下載時間。請保證被檢測視訊框架所在的儲存服務穩定可靠,建議您使用阿里雲OSS儲存或者CDN緩衝等。

表 1. 情境說明

情境

描述

檢測結果分類

視頻智能鑒黃

檢測視頻中是否包含與性相關的情況。

正常、色情

視頻暴恐涉政

檢測視頻中是否包含暴恐涉政內容。

正常、暴恐涉政

視頻不良情境

檢測視頻中是否包含不良情境。

正常、不良情境(例如黑屏、白屏)

視頻logo

檢測視頻中是否包含特定的logo。

正常、logo

視頻圖文違規

檢測視頻中是否包含廣告或違規的文字內容。

正常、廣告或文字違規

視頻語音違規

說明

該情境僅支援通過視頻非同步檢測介面調用。如需使用,請參見非同步檢測

檢測視頻中的語音內容是否包含違規資訊。

說明

預設識別語言為中文。如果您需要識別英文內容,請聯絡商務經理。

正常、含垃圾資訊、廣告、涉政、暴恐、辱罵、色情、灌水、違禁、自訂(例如命中自訂關鍵詞)

QPS限制

本介面的單使用者QPS限制為50次/秒。超過限制,API調用會被限流,這可能會影響您的業務,請合理調用。

請求參數

名稱

類型

是否必選

樣本值

描述

bizType

String

default

該欄位用於標識您的業務情境。您可以通過Alibaba Content Security Service控制台建立業務情境(具體操作,請參見自訂機審標準)。

scenes

StringArray

["porn"]

指定視頻檢測情境。取值:

  • porn:視頻智能鑒黃

  • terrorism:視頻暴恐涉政

  • live:視頻不良情境

  • logo:視頻logo

  • ad:視頻圖文違規

tasks

JSONArray

指定檢測對象,JSON數組中的每個元素是一個檢測任務結構體。最多支援100個元素,即每次提交100條內容進行檢測,支援100個元素的前提是需要將並發任務調整到100個以上。關於每個元素的具體結構描述,請參見task

表 2. task

名稱

類型

是否必選

樣本值

描述

clientInfo

JSONObject

{"userId":"12023****","userNick":"Mike","userType":"others"}

用戶端資訊,請參見公用參數中的公用查詢參數。

伺服器會把全域的clientInfo和此處獨立的clientInfo合并。

說明

獨立的clientInfo優先順序更高。

dataId

String

videoId****

檢測對象對應的資料ID。

由大小寫英文字母、數字、底線(_)、短劃線(-)、英文句號(.)組成,不超過128個字元,可以用於唯一標識您的業務資料。

frames

JSONArray

待檢測視頻的截幀資訊。frames中的每個元素是個結構體,關於每個元素的具體結構描述,請參見frame

單次檢測視頻的截幀個數最多為200個。

framePrefix

String

截幀地址的首碼,與frame.url一起組成截幀的完整地址。視頻截幀的完整地址格式為framePrefix + frame.url,請參見frame

表 3. frame

名稱

類型

是否必選

樣本值

描述

url

String

http://www.aliyundoc.com/test0001.jpg

公網HTTP/HTTPS URL,且長度不超過2048個字元。

offset

Integer

10

截幀距離標題的時間戳記,單位為秒。

返回資料

名稱

類型

樣本值

描述

code

Integer

200

錯誤碼,和HTTP狀態代碼一致。

更多資訊,請參見公用錯誤碼

msg

String

OK

請求參數的響應資訊。

dataId

String

videoId****

檢測對象對應的資料ID。

說明

如果在檢測請求參數中傳入了dataId,則此處返回對應的dataId

taskId

String

taskId****

檢測任務的ID。

results

JSONArray

返回結果,調用成功時(code=200),返回結果中包含一個或多個元素。每個元素是個結構體,具體結構描述,請參見result

表 4. result

名稱

類型

樣本值

描述

scene

String

porn

視頻檢測情境,和調用請求中的情境對應。取值:

  • porn:視頻智能鑒黃

  • terrorism:視頻暴恐涉政

  • live:視頻不良情境

  • logo:視頻logo

  • ad:視頻圖文違規

label

String

porn

視頻檢測結果的分類。不同檢測情境的結果分類不同,具體如下:

  • 視頻智能鑒黃(porn)結果分類:

    • normal:正常

    • porn:色情

  • 視頻暴恐涉政(terrorism)結果分類:

    • normal:正常

    • terrorism:暴恐涉政

  • 視頻不良情境(live)結果分類:

    • normal:正常

    • live:包含不良情境

  • 視頻logo(logo)結果分類:

    • normal:正常

    • logo:包含logo

  • 視頻圖文違規(ad)結果分類:

    • normal:正常

    • ad:包含廣告或文字違規資訊

sublabel

String

porn

如果檢測情境包含智能鑒黃(porn)和暴恐涉政(terrorism),則該欄位可以返回檢測結果的細分類標籤。

該欄位預設不會返回。

suggestion

String

block

建議您執行的後續操作。取值:

  • pass:結果正常,無需進行其餘操作。

  • review:結果不確定,需要進行人工審核。

  • block:結果違規,建議直接刪除或者限制公開。

rate

Float

99.2

信賴度分數,取值範圍:0(表示信賴度最低)~100(表示信賴度最高)。

如果suggestionpass,則信賴度越高,表示內容正常的可能性越高;如果suggestionreviewblock,則信賴度越高,表示內容違規的可能性越高。

重要

建議您參考suggestionlabel(或者部分介面返回的sublabel)結果用於內容違規判定。

frames

JSONArray

包含違規內容的視頻截幀的資訊。具體結構描述,請參見frame

extras

JSONObject

額外附加資訊。

圖文違規(ad)情境中,該參數可能返回以下內容。

hitLibInfo:如果視頻中的文字命中了自訂文本庫,則返回命中的文本庫資訊。具體結構描述,請參見hitLibInfo

hintWordsInfo

JSONArray

視頻中含有廣告或文字違規資訊時,返回視頻中廣告文字命中的風險關鍵詞資訊。具體結構描述,請參見hintWordsInfo

說明

只有圖文違規(ad)情境會返回該結果。

logoData

JSONArray

視頻中含有logo時,返回識別出來的logo資訊,具體結構描述,請參見logoData

說明

只有視頻logo(logo)情境會返回該結果。

sfaceData

JSONArray

視頻中包含暴恐涉政內容時,返回識別出來的暴恐涉政資訊,具體結構描述,請參見sfaceData

說明

只有視頻暴恐涉政(terrorism)情境會返回該結果。

表 5. frame

名稱

類型

樣本值

描述

url

String

http://www.aliyundoc.com/test0001.jpg

公網HTTP/HTTPS URL,且長度不超過2048個字元。

offset

Integer

50

視頻截幀距離標題的時間戳記,單位為秒。

label

String

porn

視頻截幀的檢測結果分類。

rate

Float

99.1

信賴度分數,取值範圍:0~100,信賴度越高表示檢測結果的可信度越高。建議您不要在業務中使用該分數。

表 6. logoData
名稱類型樣本值描述
typeStringTV識別出的logo類型,取值為TV(台標)。
nameStringxxx台識別出的logo名稱。
xFloat140以圖片左上方為座標原點,logo地區左上方到y軸距離,單位:像素。
yFloat68以圖片左上方為座標原點,logo地區左上方到x軸距離,單位:像素。
wFloat106logo地區寬度,單位:像素。
hFloat106logo地區高度,單位:像素。
表 7. sfaceData
名稱類型樣本值描述
xFloat49以圖片左上方為座標原點,人臉地區左上方到y軸距離,單位:像素。
yFloat39以圖片左上方為座標原點,人臉地區左上方到x軸距離,單位:像素。
wFloat97人臉地區寬度,單位:像素。
hFloat131人臉地區高度,單位:像素。
facesJSONArray[{"name":"命中人名","rate":91.54,"id":"AliFace_0123****"}]識別出的人臉資訊,具體結構如下:
  • name:字串類型,相似人物的名稱。
  • rate:浮點數類型,信賴度分數,取值範圍:0(表示信賴度最低)~100(表示信賴度最高)。信賴度越高表示人物識別結果的可信度越高。
  • id:字串類型,人臉ID。
表 8. hitLibInfo
名稱類型樣本值描述
contextString好看視頻文字命中的自訂常值內容。
libCodeString123456文字命中的自訂常值內容對應的庫code。
libNameStringabc文字命中的自訂常值內容對應的庫名稱。
表 9. hintWordsInfo
名稱類型樣本值描述
contextString好看視頻文字命中的風險關鍵詞內容。

樣本

請求樣本

http(s)://[Endpoint]/green/video/syncscan
&<公用請求參數>
{
    "scenes": [
        "porn"
    ],
    "tasks": [
        {
            "dataId": "videoId****",
            "frames": [
                {
                    "offset": 10,
                    "url": "http://www.aliyundoc.com/0B860000586C0A0300038A0460000"
                },
                {
                    "offset": 20,
                    "url": "http://www.aliyundoc.com/0B860000586C0A0300038A0460001"
                },
                {
                    "offset": 30,
                    "url": "http://www.aliyundoc.com/0B860000586C0A0300038A0460002"
                },
                {
                    "offset": 40,
                    "url": "http://www.aliyundoc.com/0B860000586C0A0300038A0460003"
                },
                {
                    "offset": 50,
                    "url": "http://www.aliyundoc.com/0B860000586C0A0300038A0460003"
                },
                {
                    "offset": 60,
                    "url": "http://www.aliyundoc.com/0B860000586C0A0300038A046000x"
                }
            ]
        }
    ]
}

正常返回樣本

{
    "code": 200,
    "msg": "OK",
    "requestId": "requestID****",
    "data": [
        {
            "code": 200,
            "msg": "OK",
            "dataId": "videoId****",
            "taskId": "taskId****",
            "results": [
                {
                    "label": "porn",
                    "rate": 99.2,
                    "scene": "porn",
                    "suggestion": "block",
                    "frames": [
                        {
                            "offset": 50,
                            "url": "http://www.aliyundoc.comm/0B860000586C0A0300038A0460003",
                            "label": "porn",
                            "rate": 99.1
                        }
                    ]
                }
            ]
        }
    ]
}