NSFWコンテンツブロッカー
概要
Zoho BackstageのNSFWコンテンツブロッカーでは、AIを使用して、イベントギャラリーにアップロードされた不適切またはセンシティブな画像を検出し、ブロックします。審査するコンテンツの種類を選択することで、選択済みのカテゴリーに該当するセンシティブなコンテンツがギャラリーに表示されるのを防止できます。
この設定は、イベントのギャラリーの設定と同期されるため、コンテンツモデレーションの各種設定への変更は両方の設定に反映されます。
- NSFWコンテンツブロッカーを設定するには、事前にポータルでAIを有効にする必要があります。AIは、［ポータル設定］→［AIコンソール］で有効にできます。初めてAIを有効にする際は、Zoho BackstageのAI利用規約を確認して同意してください。
- AIを有効にした後、［NSFWコンテンツブロッカー］の切り替えボタンを［AI機能を設定］で操作し、新規イベントでの初期設定の状態を指定できます。こちらで行った変更は、以降に作成されたイベントにのみ適用され、既存のイベントには影響しません。この設定は、各イベントの［AIコンソール］で個別に変更できます。
ポータル単位のAIコンソールで行った変更は、新規イベントの初期設定を決定するものであり、既存のイベントには影響しません。
NSFWコンテンツブロッカーの仕組み
NSFWコンテンツブロッカーを有効にすると、AIがイベントギャラリーにアップロードされた画像を処理し、モデレーション対象として選択済みのカテゴリーに該当するコンテンツを特定します。
ブロックするセンシティブなコンテンツの種類を選択できます。選択済みのカテゴリーは、イベントのコンテンツモデレーション設定に適用され、ギャラリー画像の処理時にAIが確認するコンテンツの種類を決定します。
画像をアップロードする前に、センシティブなコンテンツの特定と審査のため、AIが画像を処理することが参加者に通知されます。これにより、アップロード処理でAIが使用されることを参加者が確認できます。
NSFWコンテンツブロッカーの初期状態の設定
AIコンソールでNSFWコンテンツブロッカーを有効にすると、新規イベントで初期設定として有効にできます。
- ポータルのホームページから、［ポータル設定］→［AIコンソール］に移動します。
- ポータルでAIがまだ有効になっていない場合は、［有効にする］をクリックします。
- ［AI機能を設定］で、［NSFWコンテンツブロッカー］を有効にします。
イベントのNSFWコンテンツブロッカーの設定
個々のイベントのAIコンソールで、検出およびブロックするコンテンツの種類を設定できます。
- 対象のイベントを開きます。
- ドックから、［管理］→［AIコンソール］に移動します。
- ［NSFWコンテンツブロッカー］を見つけ、［設定する］をクリックします。
-
［ブロックするコンテンツの管理］で、審査するコンテンツの種類を選択してください。
- ［露骨な裸体表現］
- ［性的または挑発的なコンテンツ］
- ［流血、残虐表現、暴力］
- ［薬物および有害物質］
- ［武器］
- ［保存する］をクリックします。
- 変更を適用するには、イベントのWebサイトを［公開］（または）［再公開］します。
不適切またはセンシティブなコンテンツについて画像を審査する際、選択済みのカテゴリーが適用されます。
ブロックするコンテンツの選択
コンテンツのカテゴリーを使用して、イベントで審査する画像の種類を管理できます。すべてのイベントに同じモデレーション基準を適用する代わりに、イベントに適したカテゴリーを選択できます。
たとえば、露骨または挑発的なコンテンツについて画像を審査すると同時に、暴力、薬物、武器を含む画像も確認するように設定できます。選択内容は、イベント全体のコンテンツモデレーション設定に適用されます。
モデレーション要件が変更された場合は、NSFWコンテンツブロッカーの設定に戻り、選択済みのカテゴリーを更新します。
参加者側の操作
コンテンツ審査が有効なギャラリーに参加者が画像をアップロードしようとすると、アップロードを続ける前にコンテンツ審査に関する通知が表示されます。
この通知では、画像がギャラリーに表示される前に、センシティブなコンテンツの特定と審査のため、アップロードされた画像をAIが処理することが参加者に案内されます。参加者は、［アップロードを続ける］をクリックして続行するか、［キャンセル］をクリックして、アップロードせずに戻ることができます。
以降のアップロード時に通知を表示しない場合、参加者は［今後この警告を表示しない］を選択することもできます。
参加者が続行すると、アップロードされた画像は、イベントに設定済みのコンテンツカテゴリーに基づいて処理されます。
コンテンツモデレーション設定の更新
審査するコンテンツの種類を変更する必要がある場合は、いつでもイベント単位のAIコンソールに戻ることができます。これらの設定はギャラリー設定と同期されるため、モデレーション設定への変更は、対応するコンテンツモデレーション設定全体に反映されます。
これにより、どちらで設定を更新しても、同じモデレーションの各種設定を維持できます。
NSFWコンテンツブロッカーの無効化
個々のイベントの［AIコンソール］で、NSFWコンテンツブロッカーを無効にできます。これにより、有効なままのその他のAI機能には影響を与えず、そのイベントに対するAIを利用したコンテンツブロッカーのみを停止できます。
［NSFWコンテンツブロッカー］を［ポータル設定］→［AIコンソール］→［AI機能を設定］で無効にすることで、新規イベントでの初期状態を変更することもできます。この変更は、以降に作成されるイベントにのみ適用され、既存のイベントには影響しません。
ポータル単位でAIを無効にすると、新規イベントのAIの初期設定が変更されます。既存のイベントとそのAI機能の設定には影響しません。
ご不明な点がございましたら、support@zohobackstage.comまでお問い合わせください。