ProxyAI

Abuse Guard

Abuse Guardを開く

Abuse Guardを購入したら、ダッシュボードのサイドバーで設定 → Abuse Guardを開いてください。設定は、選択したチャットボットに適用されます。

インテリジェントガード

インテリジェントガードは、連続した送信、話題から外れた返信、攻撃的な行動を検知します。意味に基づく検知を行うにはオンにしてください。静的なキーワードは、補助的な保護として引き続き利用できます。

適用モードを選ぶ

有効にする方式を一つ選択してください。

  • セッションのレート制限:選択した警告の回数に達すると、一時的なクールダウンを適用します。
  • アイデンティティの禁止:選択した警告の回数に達すると、そのアイデンティティを恒久的にブロックします。

スライダーで警告のしきい値を設定してください。まずは測定に基づくしきい値から始め、実際の会話を確認してください。誤検知が少ない状態が続いてから、しきい値を厳しくしてください。

ブラックリストとアイデンティティの期間

有効なブラックリストには、ブロックされた対象が表示されます。対象を解除で、ユーザーIDまたはIPアドレスを入力し、削除を選ぶと、その対象のブロックを解除できます。

アイデンティティの期間では、アイデンティティによる制限がどれくらい続くかを設定します。選択肢は、1時間、24時間、7日間、無期限です。

静的キーワード

静的キーワードに単語またはフレーズを追加してください。インテリジェントガードがオフの場合、または意味に基づく検知が失敗した場合は、部分一致でフィルタリングされます。部分一致は正当なメッセージにも一致する可能性があるため、広すぎるエントリは削除してください。

影響の大きいアイデンティティの禁止について、キーワードフィルタリングだけを審査の手段にしないでください。まず、通常の顧客の言葉づかいで用語をテストしてください。

保存と確認

ガードの設定を変更したら、保存を選んでください。スパム、同じメッセージの繰り返し、似た用語を含む無害なメッセージ、想定どおりのクールダウンやブロックの動作をテストしてください。Abuse guardのイベントは利用ログで確認し、必要に応じてしきい値を調整してください。