Alibaba Cloud Content Moderation は、コンテンツモデレーション分野における主要なサービスです。Alibaba の広範なセキュリティ専門知識に基づいて構築されており、e コマース、コミュニティ、決済などの多様なセクターのプラットフォームからのコンテンツ管理経験を、高度な AI アルゴリズムとクラウドコンピューティングインフラストラクチャと組み合わせています。このサービスは、ビジネスや開発者に、成熟し、安定した、すぐに利用できる Content Moderation ソリューションを提供します。これらのソリューションは、複雑で絶えず変化するインターネット環境において、テキスト、画像、動画、音声、ドキュメント内のさまざまなリスクを迅速に検出し、プラットフォームのコンテンツ品質とユーザーエクスペリエンスを向上させるのに役立ちます。
製品の特徴
コンテンツ検出アルゴリズムモデルは、広範なサンプルでトレーニングされ、多様な評価を受けています。また、日々継続的に反復およびアップグレードされています。すぐに利用できるモデルにより、企業や開発者は自動化されたコンテンツモデレーション機能を迅速に取得できます。さらに、アルゴリズムモデルの調整、特定の検出対象の最適化、検出のしきい値の最適化など、カスタム要件をサポートするための体系的なメソッドとプロセスを提供します。
現在、Content Moderation のコア機能には、Content Moderation API、コンソールの 3 つのコンポーネントが含まれています。
Content Moderation API
Content Moderation API は、Alibaba Cloud インターフェイスを呼び出すことによってコンテンツを検出します。テキスト、画像、動画、音声、ドキュメントにポルノ、政治的にデリケートなコンテンツ、暴力、ホラー、不適切な広告、スパム、または望ましくないコンテンツが含まれているかどうかを検出および識別します。動画ウェブサイト、ライブストリーミングプラットフォーム、ソーシャルプラットフォーム、メディアプラットフォーム、垂直コミュニティ、フォーラム、e コマースウェブサイト、ストレージサービス、CDN プラットフォーム、AIGC プロダクトなど、一般公開されるコンテンツを持つビジネスシナリオに適用できます。
コンソール
上記の 2 つの検出メソッドについて、Content Moderation は、データ統計、コンテンツモデレーション分析、パーソナライズされたコントロール設定、リスクライブラリ管理などの分析およびコントロールのニーズを満たすために Alibaba Cloud 管理コンソールを提供します。この機能は、分析が必要なユーザー、複数のシナリオで異なる検出要件を持つユーザー、またはパーソナライズされたコントロールと管理が必要なユーザーに適しています。
Content Moderation 2.0 と 1.0 の関係
Content Moderation 2.0 は、新しいコンテンツモデレーションプロダクトです。Content Moderation 1.0 と比較して、一般的なビジネスシナリオがプリセットされており、プロダクトの効果、ラベルの豊富さ、設定の柔軟性、および価格が最適化されています。
Content Moderation 拡張版と 1.0 の機能比較
項目 | Content Moderation 2.0 | Content Moderation 1.0 |
課金方法と料金 |
説明 Content Moderation 2.0 の料金の詳細については、「Content Moderation の料金」をご参照ください。 |
説明 Content Moderation 1.0 の料金の詳細については、「Content Moderation の料金」をご参照ください。 |
検出設定 | 検出範囲 (10+ の主要カテゴリ) カスタムライブラリ | 検出範囲 (5+ の主要カテゴリ) カスタムライブラリ |
デフォルト容量 |
|
|
シナリオモダリティ | モダリティ: 画像、テキスト、音声、動画 プリセットビジネスシナリオ: 共通ベースライン、ソーシャルエンターテインメントライブストリーミング、オーディオおよびビデオメディアなど | モダリティ: 画像、テキスト、動画 プリセットビジネスシナリオ: 一般 |
検出結果 | 解釈可能なラベル (50+、複数の違反ラベルを同時に返すことができます) 信頼度スコア | 解釈可能なラベル (40+、1 つの違反ラベルのみを返すことができます) 推奨アクション |
アクティベーションと課金
Content Moderation 2.0 のアクティベーションと課金の詳細については、「アクティベーションと課金」をご参照ください。
Content Moderation 1.0 のアクティベーションと課金の詳細については、「アクティベーションと課金」をご参照ください。
項目 | Content Moderation 2.0 | Content Moderation 1.0 |
従量課金 | Content Moderation 2.0 の従量課金方法は、さまざまなコンテンツタイプ (画像、テキスト、音声など) と検出ボリュームに基づいて測定および課金されます。同じコンテンツの場合、複数の脅威シナリオが同時に検出されると、同じ使用条件下でバージョン 1.0 よりもコストが 50% から 70% 低くなります。 | Content Moderation 1.0 の従量課金方法は、検出されたコンテンツの特定のタイプ (画像、テキスト、動画、)、検出シナリオ (画像のポルノ検出、画像の QR コード検出、テキストのスパム対策などを含むがこれらに限定されない)、1 日あたりのスキャンボリュームの階層、アルゴリズム検出後の推奨アクション (レビュー、ブロック、パスなど)、およびコンテンツ検出に使用されるリージョン (中国 (上海) など) に基づいて測定および課金されます。 |