全部產品
Search
文件中心

ApsaraVideo VOD:智能審核

更新時間:Oct 25, 2024

智能審核基于海量標註資料和深度學習演算法實現,從語音、文字、視覺等多維度精準識別視頻、封面、標題等違禁內容,包括色情、暴恐、政治敏感等多個審核類型,廣泛應用於短視頻平台、傳媒審核等情境,可有效提高視頻的審核效率。本文為您介紹如何自訂智能審核模板並進行智能審核。

應用情境

  • UGC內容審核

    海量UGC(使用者產生內容)上傳的視頻,通過視頻智能審核技術,快速檢測違規內容,識別媒體品質問題,有效減少人工審核的工作量。

  • 點播內容審核

    高效識別點播視訊中的涉暴、涉政類鏡頭,緊跟時政動態,嚴控違規內容。

審核類型

審核類型

類型描述

審核結果分類

涉黃

檢測媒體檔案中是否包含色情、性感內容。

正常、色情、性感

暴恐涉政

檢測媒體檔案中是否包含暴恐或涉政類內容。

正常、血腥、爆炸煙光、特殊裝束、特殊標識、武器、涉政、打鬥、聚眾、遊行、車禍現場、旗幟、地標

廣告識別

檢測視頻、圖片中是否包含廣告和文字違規資訊。

正常、文字含涉政內容、文字含涉黃內容、文字含辱罵內容、文字含暴恐內容、文字含違禁內容、文字含其他垃圾內容、牛皮癬廣告、含二維碼、含小程式碼、其他廣告

不良畫面檢測

檢測視頻、圖片中是否包含黑屏、黑邊、昏暗畫面、畫中畫、吸煙、車內直播等不良情境。

正常、圖片中無內容(例如黑屏、白屏)、畫中畫、吸煙、車內直播

logo識別

檢測視頻、圖片中是否包含logo資訊,例如台標,商標等。

正常、含受管控的logo、含商標

語音反垃圾

檢測視頻、音頻中是否包含語音垃圾資訊,如廣告、涉政、暴恐等。

正常、含垃圾資訊、廣告、涉政、暴恐、辱罵、色情、灌水、違禁、無意義、自訂(例如命中自訂關鍵詞)

費用說明

ApsaraVideo for VOD的智能審核為收費服務,按審核視頻總時間長度計費,計費詳情請提交工單瞭解。關於如何提交工單,請參見聯絡我們

注意事項

  • 目前僅華東2(上海)華北2(北京)新加坡地區支援使用智能審核服務。

  • 新加坡地區目前僅支援對涉黃暴恐涉政不良畫面檢測這三個類型的審核。

  • 音視頻的最終審核結果由人工審核和智能審核結果共同決定,但人工審核的結果始終高於智能審核結果,即當人工審核和智能審核結果不一致時,按人工審核結果生效。

  • 經過媒體審核的音視頻,僅狀態為正常(Normal)時才能正常播放,狀態為屏蔽(Blocked)或審核中(Checking)的音視頻只能在ApsaraVideo for VOD控制台播放或通過審核安全IP進行播放,您將無法通過API/SDK擷取到音視頻的播放地址用於播放,但對於已經外泄的有效播放地址仍可以正常播放

前提條件

如何使用

步驟一:(可選)配置智能審核模板

ApsaraVideo for VOD提供了系統預製的智能審核模板,並作為智能審核的預設審核模板。如果系統預製的模板不能滿足您的需求,您可以按需自行建立智能審核模板。

說明
  • 預製模板無法更改配置和刪除,其配置如下:

    • 審核類型:暴恐涉政、鑒黃

    • 審核範圍:視頻、封面、名稱

    • 審核內容:畫面

  • 最多支援添加20個自訂的智能審核模板。

控制台方式

  1. 登入ApsaraVideo for VOD控制台

  2. 在左側導覽列選擇審核管理 > 審核設定,進入到審核設定頁面。

  3. 建立智能審核模板。

    1. 在審核設定頁面,單擊審核模板頁簽,進入到審核模板頁面。

    2. 單擊添加,進入到添加智能審核模板頁面。

      參數名稱

      參數說明

      模板名稱

      設定模板名稱,方便模板之間的區分。

      審核類型

      設定審核類型,可多選。取值:

      • 鑒黃

      • 暴恐涉政

      • 廣告識別

      • logo識別

      • 不良畫面檢測

      • 語音反垃圾

      說明
      • 如需對音頻進行審核,則審核類型需要勾選語音反垃圾

      • 新加坡地區的智能審核服務僅支援鑒黃、暴恐涉政和不良畫面檢測。

      審核範圍

      設定視頻的審核範圍,可多選。取值:

      • 封面:對視頻的封面進行審核。

      • 名稱:對視頻的名稱進行審核。

      • 視頻:對視頻內容進行審核。

        說明
        • 審核的封面不可超過5張。

        • 審核的名稱及彈幕不可超過128個位元組。

        • 審核的視頻時間長度不可超過6小時。

      審核內容

      當前僅可使用視訊畫面。

      違規時自動屏蔽

      該功能開啟後,將對機審結果為確認違規(由智能審核模板配置決定)的視頻進行自動屏蔽播放。

      重要

      該功能為高危功能,請您謹慎開啟。

    3. 單擊儲存

  4. 設定智能審核的預設審核模板。

    • 方式一:在審核模板頁簽,單擊需要作為預設審核模板所在行的設為預設

    • 方式二:在審核配置頁簽,單擊智能審核地區下的修改配置,在機審模板的下拉選項中選擇作為預設的智能審核模板後,單擊確定

OpenAPI方式

  1. 調用AddAITemplate - 添加AI模板介面,建立智能審核模板。

  2. 調用SetDefaultAITemplate - 設定預設AI模板介面,設定智能審核的預設審核模板。

關於智能審核模板的修改、查詢、刪除等介面,請參見AI模板相關介面

步驟二:(可選)配置事件通知

建議您發起智能審核任務之前,配置ApsaraVideo for VOD的事件通知,以便在智能審核任務完成後,能從接收到的回調訊息中擷取到智能審核任務的狀態及審核結果等資訊。事件通知的配置方法,請參見回調設定

智能審核需要開啟的事件通知類型如下:

步驟三:發起智能審核作業

配合ApsaraVideo for VOD工作流程能力的應用,可以實現在ApsaraVideo for VOD中上傳音視頻時自動觸發智能審核,或在上傳音視頻後手動觸發智能審核。

控制台方式

情境一:上傳音視頻時自動觸發智能審核

  1. 建立包含智能媒資審核節點的工作流程。

    在工作流程中添加智能媒資審核節點,並設定審核模板為系統預製審核模板或步驟一:(可選)配置智能審核模板中自行建立的智能審核模板。工作流程的建立方法,請參見工作流程管理

  2. 上傳音視頻並選擇用工作流程進行處理。

    1. 在ApsaraVideo for VOD控制台,從左側導覽列選擇媒資庫 > 音/視頻

    2. 單擊上傳音/視頻,單擊添加音/視頻

    3. 按需設定上傳方式、儲存地址並添加上傳的視頻後,選擇用工作流程處理,並選擇上一步建立的包含智能媒資審核節點的工作流程。

    4. 單擊開始上傳

情境二:上傳音視頻後手動觸發智能審核

  • 方式一:在點播控制台的媒資庫發起智能審核

    1. 建立包含智能媒資審核節點的工作流程。

      在工作流程中添加智能媒資審核節點,並設定審核模板為系統預製審核模板或步驟一:(可選)配置智能審核模板中自行建立的智能審核模板。工作流程的建立方法,請參見工作流程管理

    2. 在媒資庫選擇用工作流程發起ApsaraVideo for Media Processing。

      1. 在ApsaraVideo for VOD控制台,從左側導覽列選擇媒資庫 > 音/視頻

      2. 在音/視頻列表頁面,單擊目標音視頻所在行的ApsaraVideo for Media Processing

      3. 處理類型選擇用工作流程處理工作流程選擇上一步建立的包含智能媒資審核節點的工作流程。

      4. 單擊確定

  • 方式二:在點播控制台的視頻審核頁面發起智能審核

    1. 登入ApsaraVideo for VOD控制台

    2. 在左側導覽列選擇審核管理 > 視頻審核,進入到視頻審核頁面。

    3. 選擇您需要審核的音/視頻。

      支援按上傳時間(全部時間自訂時間)、媒體名稱媒體ID對音/視頻進行篩選和檢索。

    4. 開始智能審核。

      • 初次智能審核的音/視頻(機審狀態未開啟):單擊操作列的智能審核,系統將按照步驟一中設定的預設審核模板進行審核。

      • 重新智能審核的音/視頻(機審狀態審核失敗審核成功):單擊操作列的重新審核,系統將按照步驟一中設定的預設審核模板進行審核。

OpenAPI方式

情境一:上傳音視頻時自動觸發智能審核

  1. 建立包含智能媒資審核節點的工作流程。

    在工作流程中添加智能媒資審核節點,並設定審核模板為系統預製審核模板或步驟一:(可選)配置智能審核模板中自行建立的智能審核模板。工作流程的建立方法,請參見工作流程管理

  2. 調用下述媒資上傳相關介面時,將WorkflowId參數設定為上一步建立的包含智能審核節點的工作流程ID,並按需自訂其他參數,完成媒資上傳。

情境二:上傳音視頻後手動觸發智能審核

通過介面發起智能審核作業時,傳入TemplateId參數,則可以指定智能審核模板進行審核,若不傳,則將按照步驟一中設定的預設審核模板進行審核。

  • 音視頻:調用SubmitAIMediaAuditJob - 提交音視頻智能審核作業介面,對上傳到ApsaraVideo for VOD中的音視頻資源發起智能審核作業。

  • 圖片:調用SubmitAIImageAuditJob - 提交圖片智能審核作業介面,對上傳到ApsaraVideo for VOD中的圖片資源發起智能審核作業。

    說明

    調用介面進行圖片審核時,使用限制如下:

    • 單個圖片大小不超過20 MB,高度或寬度不超過30000px,且圖片總像素不超過2.5億px。

    • (建議)圖片像素不低於256×256px,像素過低可能會影響審核效果。

步驟四:查看審核結果

說明
  • 智能審核結果中的圖片資源僅在點播提供的免費儲存上保留2周時間,超過2周將自動刪除。

  • 如果您已配置事件通知,可以通過接收智能審核完成回調訊息擷取審核結果詳情。

控制台方式

  1. 登入ApsaraVideo for VOD控制台

  2. 在左側導覽列選擇審核管理 > 視頻審核,進入到視頻審核頁面。

  3. 在視頻審核列表頁查看視頻的審核資訊。

    其中,機審狀態審核模板機審結果違規項為智能審核相關資訊,各參數說明如下:

    參數名稱

    參數說明

    視頻

    展示音視頻的名稱、音視頻ID及儲存地址。

    機審狀態

    機器審核的狀態,取值如下:

    • 未開啟:表示該音視頻還未進行過機審。

    • 審核成功:表示該音視頻機審完成並機審成功,其審核模板列將展示所使用的機審模板,機審結果列會顯示違規疑似正常的結果。

    • 審核失敗:表示該音視頻機審完成但機審失敗,其審核模板列將展示所使用的機審模板,機審結果列會顯示為--

    • 審核中:表示該音視頻正處於首次機審中。

    • 重新審核中:表示該音視頻正處於重新機審中。

    審核模板

    智能審核所使用的模板,可在步驟一:(可選)配置智能審核模板中設定。

    機審結果

    智能審核的結果。取值如下:

    • 違規:表示該音視頻存在機審模板中配置的違規內容,其違規項列將顯示具體的違規項。

    • 疑似:表示該音視頻可能存在機審模板中配置的違規內容,其違規項列將顯示可能存在的違規項,建議對該資源進行人工審核再次確認。

    • 正常:表示該音視頻不存在機審模板中配置的違規內容,其違規項列將顯示為normal

    • --:表示該音視頻未進行過機審或機審失敗。

    違規項

    智能審核所檢測出的違規項。取值包括:鑒黃、暴恐涉政、廣告、logo、不良畫面、語音、normal、--。其中,--表示該音視頻還未進行過機審。

    人審狀態

    人工審核的狀態。取值如下:

    • 未審核:表示該音視頻還未進行過人工審核,其終審結果列會顯示為--

    • 審核完成:表示該音視頻已完成人工審核,其終審結果列會顯示為通過屏蔽

    終審結果

    視頻審核的最終結果。取值如下:

    • 通過:通過狀態的音視頻可以正常播放。

    • 屏蔽:屏蔽狀態的音視頻只能在ApsaraVideo for VOD控制台播放或通過審核安全IP進行播放,您將無法通過API/SDK擷取到音視頻的播放地址用於播放,但對於已經外泄的有效播放地址仍可以正常播放。

    • --:表示該音視頻還未進行機器審核和人工審核,其是否能正常播放,取決於在點播控制台 > 媒資庫 > 音/視頻頁面所展示的狀態是否為正常

    操作

    對音視頻可執行檔操作,包括查看審核詳情、發起智能審核或人工審核。

  4. 看單個音視頻的審核詳情資訊。

    單擊操作列的詳情進入視頻審核詳情頁面,頁面將展示音視頻的播放預覽畫面、音視頻的名稱、ID、人審結果和機審結果等資訊,並可在本頁面對音視頻進行播放查看及人工審核結果判定。

OpenAPI方式

更多有關智能審核任務和結果的介面,請參見智能審核相關介面