コンテンツモデレーション - - Alibaba Cloud ドキュメントセンター

ApsaraVideo VODはコンテンツモデレーション機能を提供します。この機能を使用すると、テロリスト、政治的機密、ポルノコンテンツ、広告、望ましくないシーン、画像、ビデオ、テキスト、オーディオファイルの悪用など、違法および非準拠のコンテンツを検出できます。これにより、手動レビューのコストが削減され、コンテンツの品質、プラットフォームのメンテナンス、およびユーザーエクスペリエンスが向上します。このトピックでは、コンテンツモデレーションの利点、機能、シナリオ、およびこれらの機能の使用方法について説明します。

メリット

ApsaraVideo VODは、AliGreenNetと同じ基本的なレビュー機能を提供します。コンテンツモデレーションを使用すると、テロリスト、政治的機密、ポルノコンテンツ、広告、望ましくないシーン、画像、ビデオ、テキスト、オーディオファイルの悪用など、違法および非準拠のコンテンツを検出できます。
ApsaraVideo VODは、ビデオ、オーディオ、画像 (スナップショットやサムネイルなど) 、テキスト (タイトル、説明、タグなど) など、メディアアセットに関するすべてのリソースのレビュープロセスを1つのレビュータスクで組み合わせます。このように、すべてのメディアリソースを効率的に処理するには、1つのレビュータスクのみを送信する必要があります。
ApsaraVideo VODは、ワークフローとカスタムテンプレートに基づく自動レビューをサポートしています。メディアファイルがApsaraVideo VODにアップロードされると、システムは自動的にファイルをレビューし、レビュー結果をリアルタイムで返します。
ApsaraVideo VODのコンテンツモデレート機能は、メディアアセットの管理、編集、制作、配信、再生などのあらゆる段階で使用でき、さまざまなシナリオでのビジネス要件を満たすことができます。たとえば、レビュー後にビデオをトランスコード、破棄、またはアーカイブできます。非準拠クリップは、配布前に自動的にトリミングすることもできます。

特徴

機能	説明	関連ドキュメント
自動レビュー	自動レビュー機能は、大量のラベル付きデータと深層学習アルゴリズムに基づいて実装されています。この機能は、テロリスト、政治的機密、およびポルノコンテンツなどの違法で非準拠のコンテンツを検出します。この機能を使用して、オーディオ、テキスト、ビジュアル表示などの多次元のビデオ、サムネイル、タイトルを確認できます。メディアプラットフォームでのコンテンツレビューなど、複数のシナリオで自動レビュー機能を使用できます。自動レビュー機能は、レビュー効率を向上させることができます。	自動レビュー
マニュアルレビュー	ApsaraVideo VODは、違法および非準拠のビデオを事前に検出およびブロックしたり、オフラインにしたりするために使用できる手動レビュー機能を提供します。これにより、違法で非準拠のコンテンツによって引き起こされる悪影響が軽減されます。	マニュアルレビュー
セキュリティIPアドレスのプレビュー	ApsaraVideo VODはセキュリティIPアドレスプレビュー機能を提供し、IPアドレスを追加してセキュリティグループを確認するユーザーのみが [確認] または [ブロック] 状態でビデオを再生できるようにします。ほとんどの場合、この機能は内部レビューに使用されます。	セキュリティIPアドレスのプレビュー

シナリオ

自動レビュー機能を使用して、ショートビデオまたはユーザー生成コンテンツ (UGC) に違法で非準拠のコンテンツが存在するかどうかを確認できます。次に、違反の疑いがあるビデオの手動レビューを実行します。これにより、手動レビューの作業負荷が軽減されます。
自動レビュー機能を使用して、テロリストや政治的に機密性の高いコンテンツなどの違法で非準拠のコンテンツがメディアプラットフォームまたはオンデマンドビデオに存在するかどうかを確認できます。これにより、コンテンツ違反の管理に役立ちます。

使用上の注意

オーディオまたはビデオファイルの最終レビュー結果は、自動レビューと手動レビューの結果によって決定されます。自動レビューと手動レビューの結果が異なる場合、自動レビューの結果よりも手動レビューの結果が優先されます。
他のプラットフォームでは、通常状態のオーディオファイルとビデオファイルのみを再生できます。 [ブロック] または [レビュー] ステータスのオーディオファイルとビデオファイルは、ApsaraVideo VODコンソールまたは [セキュリティIPアドレスプレビュー] に記載されているレビューセキュリティグループのIPアドレスを使用してのみ再生できます。 ただし、再生URLが漏洩すると、権限のないユーザーがオーディオまたはビデオファイルを再生できます。 API操作を呼び出したり、SDKを使用して、ブロック状態またはレビュー状態のオーディオファイルまたはビデオファイルの再生URLを取得することはできません。

コンテンツモデレーション機能の使用方法

前提条件

ApsaraVideo VODが有効化されています。詳細については、「ApsaraVideo VODの有効化」をご参照ください。
レビューするオーディオまたはビデオファイルがApsaraVideo VODのメディアアセットライブラリにアップロードされます。詳細については、「概要」をご参照ください。

手順1: レビュープロセスの設定

オーディオファイルまたはビデオファイルをApsaraVideo VODにアップロードすると、指定したレビュープロセスに基づいてファイルが処理されます。このプロセスは、アップロード後にファイルを再生できるかどうかを判断します。 [公開後にレビュー] または [公開前にレビュー] を選択できます。デフォルトでは、[公開後のレビュー] が選択されています。つまり、トランスコードされたビデオやコンテンツ配信が有効になっているビデオを直接再生できます。 [公開前にレビュー] を選択した場合、ビデオはレビューに合格した後にのみ再生できます。たとえば、トランスコードされた動画やコンテンツ配信が有効になっている動画は再生できません。

ApsaraVideo VODコンソールにログインします。
左側のナビゲーションウィンドウで、[レビュー管理]> [設定] を選択します。
[レビュー構成] タブで、[プロセス] セクションの [変更] をクリックします。

表示されるダイアログボックスで、レビュープロセスを選択します。

レビュープロセス	説明
公開後のレビュー (デフォルト)	オーディオファイルまたはビデオファイルをApsaraVideo VODにアップロードすると、ファイルは通常状態になります。通常状態のオーディオファイルとビデオファイルを再生できます。オーディオファイルまたはビデオファイルに対して、ビジネス要件に基づいて自動レビューまたは手動レビューを実行できます。詳細については、「コンテンツモデレーション」をご参照ください。手動レビュー中にオーディオファイルまたはビデオファイルを [ブロック] としてマークした場合、ApsaraVideo VODコンソール、またはセキュリティIPアドレスプレビューに記載されているレビューセキュリティグループのIPアドレスを使用してのみファイルを再生できます。ただし、再生URLが漏洩した場合、権限のないユーザーがオーディオまたはビデオファイルを再生できます。 API操作を呼び出したり、SDKを使用して、ブロック状態のオーディオファイルまたはビデオファイルの再生URLを取得することはできません。
発行前のレビュー	オーディオファイルまたはビデオファイルをApsaraVideo VODにアップロードすると、ファイルがトランスコードされると自動的に [レビュー] 状態になります。コンテンツモデレーションに記載されている手順に従って、ファイルの手動レビューを実行する必要があります。それ以外の場合、ファイルは [レビュー] 状態のままです。 [レビュー] ステータスのファイルは、ApsaraVideo VODコンソールまたは [セキュリティIPアドレスプレビュー] に記載されているレビューセキュリティグループのIPアドレスを使用してのみ再生できます。ただし、再生URLが漏洩した場合、権限のないユーザーがオーディオまたはビデオファイルを再生できます。 API操作を呼び出したり、SDKを使用して、[レビュー] 状態のオーディオファイルまたはビデオファイルの再生URLを取得することはできません。

[OK] をクリックします。

ステップ2: (オプション) イベント通知の設定

メディアファイルを確認する前に、ApsaraVideo VODでイベント通知を設定することを推奨します。これにより、ファイルのレビュー後に、レビューステータスや結果などの情報をコールバックから取得できます。イベント通知の設定方法の詳細については、「コールバックの設定」をご参照ください。次のコンテンツは、コンテンツモデレーションに関連するイベントを示しています。

マニュアルレビュー: CreateAuditComplete
自動レビュー:
- ビデオ解析完了。 VideoAnalysisCompleteイベントがトリガーされた後にのみ、SubmitAIMediaAuditJob操作を呼び出してレビュージョブを送信できます。
- AI処理完了。 AIMediaAuditCompleteイベントは、AI処理ジョブが完了するたびにトリガーされます。

ステップ3: レビューを開始

オーディオファイルとビデオファイルに対して自動レビューを実行し、違反の疑いがあるファイルに対してのみ手動レビューを実行することをお勧めします。これにより、手動の作業負荷が軽減され、レビューパフォーマンスが向上します。詳細については、以下のトピックをご参照ください。

APIを呼び出して、[レビュー中] または [ブロック中] 状態のオーディオファイルまたはビデオファイルの再生URLを取得することはできません。確認セキュリティグループのIPアドレスを使用してのみ、ファイルを再生できます。これは内部レビュー要件を満たしています。詳細については、「セキュリティIPアドレスのプレビュー」をご参照ください。