AIポリシー検出設定は、TrendAI Vision One™がAIアプリケーションのプロンプトと応答をどのように検査するかを決定します。
ポリシーには、検出したコンテンツにルールを適用する3つの検出タブがあります。
ルールアクション
有害なコンテンツと機密情報には一連のルールがあります。各ルールは検出したコンテンツに対してアクションを組み合わせます。プロンプト攻撃は単一のアクションを適用し、ルール、レベル、カテゴリはありません。
|
処理
|
説明
|
|
許可してログを記録
|
ルールに一致するコンテンツを許可し、検出をログに記録します。
|
|
拒否してログを記録
|
ルールに一致するコンテンツをブロックし、検出をログに記録します。
|
有害なコンテンツ
有害なコンテンツタブは、プロンプトと応答内の有害な素材を検出します。各ルールは検出レベルを設定し、1つのカテゴリに適用されます。
[検出レベル]はルールがコンテンツをどの程度積極的にフラグ付けするかを設定します。
機密情報
機密情報タブは、プロンプトと応答内の機密データを検出します。各ルールは、固定された感度レベルで1つの機密データカテゴリを対象としています。ルールの感度レベルやカテゴリを変更することはできませんが、ルールを有効または無効にし、そのアクションを設定することができます。
このタブでルールを見つけるには、[ルール名]を使用してルール名で検索するか、[フィルターを追加]をクリックして次のいずれかを選択してください。
-
都道府県
-
処理
-
感度レベル
-
カテゴリ
-
地域
このタブで編集を有効にすることもできます。編集は、ポリシーがルールアクションを適用する前に機密データをアスタリスクで置き換えます。
-
アクションが[Deny & log]の場合、ポリシーは機密データがAIモデルに到達するのをブロックし、アスタリスクとして記録します。
-
アクションが[Allow & log]の場合、ポリシーは機密データの代わりにアスタリスクを送信して記録します。
プロンプト攻撃
プロンプト攻撃タブは、プロンプトインジェクションなどのAIアプリケーションを操作しようとする試みを検出します。他のタブとは異なり、ルール、検出レベル、カテゴリは使用しません。代わりに、検出されたすべてのプロンプト攻撃に適用される単一のアクションを設定します。