自動レビューは、ディープラーニングアルゴリズムと大量の注釈付きデータを使用して、動画、サムネイル、タイトル内の禁止コンテンツを正確に検出します。この機能は、音声、テキスト、ビジュアルなど、複数のディメンションでコンテンツを分析し、ポルノ、テロ、政治的に敏感な内容など、さまざまな種類の禁止コンテンツを特定します。この機能は、ショートビデオプラットフォームやメディアレビューでのコンテンツモデレーションに広く使用され、効率を向上させます。このトピックでは、自動レビューテンプレートのカスタマイズ方法と自動レビューの実行方法について説明します。
利用シーン
UGC コンテンツモデレーション
大量のユーザー生成コンテンツ (UGC) 動画に対して、自動動画レビューは違反コンテンツを迅速に検出し、メディア品質の問題を特定し、手動レビューのワークロードを大幅に削減します。
VOD コンテンツモデレーション
この機能は、ビデオオンデマンド (VOD) 動画内の暴力的で政治的に敏感なシーンを効率的に検出します。これにより、現在の政治情勢を常に把握し、違反コンテンツを厳格に管理することができます。
レビュータイプ
レビュータイプ | 説明 | レビュー結果のカテゴリ |
ポルノ | メディアファイル内のポルノまたは示唆的なコンテンツを検出します。 | 正常、ポルノ、示唆的 |
テロおよび政治的に敏感なコンテンツ | メディアファイル内のテロ関連または政治的に敏感なコンテンツを検出します。 | 正常、血なまぐさい、爆発と煙、特殊な服装、特殊なロゴ、武器、政治的に敏感、格闘、群衆、行進、自動車事故シーン、旗、ランドマーク |
広告検出 | 動画や画像内の広告および違反テキストを検出します。 | 正常、政治的に敏感なコンテンツを含むテキスト、ポルノコンテンツを含むテキスト、罵詈雑言コンテンツを含むテキスト、テロ関連コンテンツを含むテキスト、禁止コンテンツを含むテキスト、その他のスパムコンテンツを含むテキスト、スパム広告、QR コード、ミニプログラムコード、その他の広告 |
不快なシーンの検出 | 黒い画面、黒枠、暗いシーン、ピクチャーインピクチャー (PiP)、喫煙、車内ライブストリーミングなど、動画や画像内の不快なシーンを検出します。 | 正常、画像にコンテンツなし (黒い画面や白い画面など)、ピクチャーインピクチャー (PiP)、喫煙、車内ライブストリーミング |
ロゴ検出 | テレビ局のロゴや商標など、動画や画像内のロゴを検出します。 | 正常、管理対象ロゴを含む、商標を含む |
音声スパム対策 | 広告、政治的に敏感なコンテンツ、テロ関連コンテンツなど、動画や音声内の音声スパムを検出します。 | 正常、スパムを含む、広告、政治的に敏感、テロ関連、罵詈雑言、ポルノ、フラッディング、禁止、無意味、カスタム (カスタムキーワードのヒットなど) |
課金詳細
ApsaraVideo VOD の自動レビュー機能は有料サービスです。レビュー対象の動画の合計時間に基づいて課金されます。課金の詳細については、チケットを送信してください。詳細については、「お問い合わせ」をご参照ください。
注意事項
レビュー基準は、中華人民共和国刑法、サイバーセキュリティ法、インターネット情報サービス管理弁法、コンピュータ情報ネットワーク国際ネットワーキングセキュリティ保護管理弁法、インターネット情報サービスにおけるディープシンセシス管理規定、生成 AI サービス管理暫定弁法など、中国の法律および規制に準拠しています。
現在、自動レビューサービスは中国 (上海)、中国 (北京)、シンガポールリージョンでのみ利用可能です。
シンガポールリージョンでは現在、ポルノ、テロおよび政治的に敏感なコンテンツ、不快なシーンの検出のレビューのみをサポートしています。
音声または動画ファイルの最終的なモデレーション結果は、自動レビューと手動レビューの両方の結果によって決定されます。ただし、手動レビューの結果は常に自動レビューの結果を上書きします。
メディアモデレーション後、正常 状態の音声および動画ファイルのみが再生できます。フラグ付き または 審査中 状態の音声および動画ファイルは、ApsaraVideo VOD コンソールまたはモデレーション用のセキュリティ IP を使用してのみ再生できます。API または SDK を使用してこれらのファイルの再生アドレスを取得することはできません。ただし、すでに公開されている有効な再生アドレスは、引き続き再生に使用できます。
前提条件
ApsaraVideo VOD がアクティベートされていること。詳細については、「ApsaraVideo VOD のアクティベート」をご参照ください。
レビュー対象の音声および動画ファイルは、ApsaraVideo VOD メディアアセットライブラリにアップロードされている必要があります。詳細については、「メディアアップロード」をご参照ください。
使用方法
ステップ 1. (任意) 自動レビューテンプレートの設定
ApsaraVideo VOD は、デフォルトで使用される自動レビュー用のプリセットシステムテンプレートを提供しています。このテンプレートがニーズに合わない場合は、カスタム自動レビューテンプレートを作成できます。
プリセットテンプレートは変更または削除できません。その設定は次のとおりです:
レビュータイプ:テロおよび政治的に敏感なコンテンツ、ポルノ検出
レビュー範囲:動画、サムネイル、タイトル
レビュー内容:ビデオフレーム
最大 20 個のカスタム自動レビューテンプレートを追加できます。
ステップ 2. (任意) イベント通知の設定
自動レビュータスクを開始する前に、ApsaraVideo VOD のイベント通知を設定します。これにより、タスクのステータスと結果に関するコールバックメッセージを受信できます。イベント通知の設定の詳細については、「コールバック設定」をご参照ください。
自動レビューには、次のイベント通知タイプを有効にする必要があります:
オーディオとビデオの分析が完了しました を有効にします。音声/動画分析完了イベント通知を受信した後、SubmitAIMediaAuditJob 操作を呼び出してレビュータスクを開始できます。
AI 処理が完了しました を有効にします。この設定は、すべての AI 処理タスクに適用されます。この設定を有効にすると、自動レビュー完了イベント通知を受信できます。
ステップ 3. 自動レビュータスクの開始
ApsaraVideo VOD のワークフロー機能を使用すると、音声または動画ファイルをアップロードする際に自動的にレビューをトリガーしたり、アップロード完了後に手動でレビューをトリガーしたりできます。
ステップ 4. レビュー結果の表示
自動レビュー結果の画像リソースは、ApsaraVideo VOD が提供する無料ストレージに2 週間のみ保存されます。2 週間後、自動的に削除されます。
イベント通知を設定している場合、自動レビュー完了コールバックメッセージを受信して、レビュー結果の詳細を取得できます。