Ansichten:
Integrieren Sie TrendAI Vision One™ KI Guard in Ihre Anwendung, um Ihre KI-Nutzung auf schädliche Inhaltserstellung, sensible Informationslecks und Eingabeaufforderungsinjektionen zu durchsuchen.
Für die von TrendAI gehostete Integration siehe Trend-gehostete KI-Wache integrieren. Für Datensouveränität, implementieren und hosten Sie AI Guard in Ihrer Amazon Web Services (AWS)-Umgebung oder einem Kubernetes-Cluster. TrendAI Vision One™ erhält nur die Scan-Ergebnisse.
KI Guard verwendet Credits für die Modellüberprüfung. Planen Sie den monatlichen Credit-Verbrauch basierend auf den erwarteten Modellüberprüfungen.

Auf AWS bereitstellen Übergeordnetes Thema

Voraussetzungen:
  • Sie müssen eine TrendAI Vision One™-Rolle mit der Berechtigung zum Erstellen von API-Schlüsseln und Durchführen von Scans haben.
  • Überprüfen Sie, ob Ihr AWS-Konto über genügend Kontingent für On-Demand-G- und VT-Instanztypen verfügt. TrendAI™ empfiehlt, einen Puffer hinzuzufügen, um potenzielle Änderungen bei der Instanzgröße zu bewältigen.
  • Aktivieren Sie die Berechtigungen für CloudWatch-Protokollierung in Ihrem AWS-Konto.

Prozedur

  1. Gehen Sie zu Cloud SecurityCloud AccountsAWS, um Ihr AWS-Konto zu verbinden oder zu aktualisieren.
  2. Um ein neues AWS-Konto zu konfigurieren:
    1. Klicken Sie auf Konto hinzufügen.
    2. Für Deployment Method wählen Sie CloudFormation.
    3. Wählen Sie den Kontotyp aus:
      • Single AWS Account
      • AWS Organization
    4. Geben Sie ein Account name und ein Beschreibung an, um in Cloud-Konten anzuzeigen.
    5. Geben Sie die Organizational Unit ID an. Wenn Sie die AWS-Organisation hinzufügen, erhalten alle Mitgliedskonten ohne einen in AWS angegebenen Alias einen automatisch generierten Namen in Cloud-Konten.
  3. So konfigurieren Sie ein bestehendes AWS-Konto:
    1. Klicken Sie auf Update AWS account und dann auf den Kontonamen.
    2. In Cloud Accounts Settings klicken Sie auf die Registerkarte Stack Update.
  4. Wählen Sie die AWS-Region für die Bereitstellung der CloudFormation-Vorlage aus.
  5. Um benutzerdefinierte Tags zu den von TrendAI Vision One™ bereitgestellten Ressourcen hinzuzufügen, wählen Sie Resource tagging und geben Sie die Schlüssel-Wert-Paare an.
    • Zum Hinzufügen von bis zu drei Tags klicken Sie auf Create a new tag.
  6. Klicken Sie auf Weiter.
  7. AI Application Security aktivieren.
  8. Wählen Sie den Verteilung aus.
  9. Wählen Sie Enable AI Guard.
  10. Öffnen Sie in derselben Browsersitzung einen neuen Tab und melden Sie sich bei dem AWS-Konto an, das Sie mit einer Rolle verbinden möchten, die Administratorrechte hat.
  11. Für ein bestehendes AWS-Konto:
    1. Klicken Sie unter Update the CloudFormation template auf Copy S3 URL.
    2. Wenn der API-Schlüssel abgelaufen ist, klicken Sie auf Copy Vision One API key und ersetzen Sie dann den API-Schlüssel in CloudFormation. Der TrendAI Vision One™ API-Schlüssel ist 90 Tage gültig.
    3. Um die Vorlage vor der Bereitstellung zu überprüfen, klicken Sie auf Download and Review Template.
    4. Gehen Sie zu Stacks und klicken Sie auf den Stapelnamen für den Stapel, den Sie aktualisieren möchten.
      • Vision-One-Cloud-Kontoverwaltung
    5. Klicken Sie auf Update.
    6. Wählen Sie Replace current template.
    7. Fügen Sie die S3-URL-Vorlage in Amazon S3 URL ein.
    8. Klicken Sie auf Weiter.
  12. Für ein neues AWS-Konto:
    1. Klicken Sie auf Weiter.
    2. Um die automatisierte Bereitstellung zu verwenden:
      1. Wählen Sie Automated für den Bereitstellungstyp aus.
      2. Klicken Sie auf Launch stack, um die CloudFormation-Vorlage in der AWS-Konsole zu starten.
      3. Führen Sie die Schritte in Quick Create Stack aus.
    3. Um Manuelle Verteilung zu verwenden:
      1. Wählen Sie Manuell für den Bereitstellungstyp aus.
      2. Klicken Sie auf Download the template and stack parameters as a .zip.
      3. Gehen Sie zu Stacks unter CloudFormation.
      4. Erstellen Sie einen neuen Stack mit den Parametern in der .zip-Datei.
  13. In TrendAI Vision One™ klicken Sie auf Fertig.
  14. Öffnen Sie in einem anderen Tab die AWS-Managementkonsole und öffnen Sie den CloudFormation-Stack.
  15. Gehen Sie zur Registerkarte Outputs und kopieren Sie den GuardAPIEndpoint.
  16. Integrieren Sie KI Guard in Ihre Anwendung. Beziehen Sie sich auf den folgenden Codeausschnitt für die Integration.
    import os
    import requests
    
    # Get your TrendAI Vision One™ API key from environment variable
    api_key = os.environ.get("V1_API_KEY")
    if not api_key:
        raise ValueError("Missing V1_API_KEY environment variable")
    
    # Get your TrendAI™ AI Guard URL from environment variable
    ai_guard_url = os.environ.get("AI_GUARD_URL")
    if not ai_guard_url:
        raise ValueError("Missing AI_GUARD_URL environment variable")
    
    # Configure headers
    headers = {
        "Authorization": f"Bearer {api_key}",
        "Content-Type": "application/json",
        "TMV1-Application-Name": "your-application-name"  # Required
    }
    
    # Prepare the payload
    payload = {
        "prompt": "Your prompt or message here"
    }
    
    # Copy AI Guard URL from AWS template Stack Output
    url = f"{ai_guard_url}"
    
    # Make the API request
    response = requests.post(
        url,
        headers=headers,
        json=payload
    )
    
    # Check response status
    if response.status_code == 200:
        result = response.json()
    
        # API returns action and optional reasons
        action = result.get("action")
        reasons = result.get("reasons", [])
    
        if action == "Allow":
            print("Request allowed by AI Guard")
        elif action == "Block":
            print(f"Request blocked by AI Guard")
            print(f"Reasons: {', '.join(reasons)}")
    
        print(f"Response ID: {result.get('id')}")
    else:
        print(f"Error: {response.status_code} - {response.text}")
    
    • Setzen Sie den Wert von AI_GUARD_URL mithilfe des Werts von GuardAPIEndpoint.

    Anfrageoptionen

    Parameter
    Werte
    Beschreibung
    Anforderungstyp
    Einfache Anfrage oder OpenAI-Chat-Formate
    Mit TMV1-Request-Type-Header auswählen.
    Antwortdetails
    Minimal oder Darstellung
    Steuerung mit Prefer-Header.
    Authentifizierung
    Träger-API-Schlüssel
    Autorisierung: Bearer <token>.

Deaktiviert selbstgehosteten KI-Schutz in AWS Übergeordnetes Thema

Prozedur

  1. Gehe zu Cloud SecurityCloud AccountsAWS.
  2. Protokollieren Sie, bei welchen Konten die KI-Sicherheitsfunktion aktiviert ist.
  3. In Cloud Accounts Settings klicken Sie auf die Registerkarte Stack Update.
  4. AI Application Security deaktivieren.
  5. Klicken Sie unter Update the CloudFormation template auf Copy S3 URL.
  6. Gehen Sie zu Stacks und klicken Sie auf den Stapelnamen des Stapels, den Sie aktualisieren möchten.
    • Vision-One-Cloud-Kontoverwaltung
  7. Klicken Sie auf Update.
  8. Wenn der API-Schlüssel abgelaufen ist, klicken Sie auf Copy Vision One API key und ersetzen Sie dann den API-Schlüssel in CloudFormation. Der TrendAI Vision One™ API-Schlüssel ist 90 Tage gültig.
  9. Überprüfung der Entfernung des KI-Sicherheitsfunktionsstapels.

Nächste Schritte

Fehlerbehebung

Problem
Ursache
Aktion
401 oder 403 von API
Ungültiger oder abgelaufener API-Schlüssel; Rolle hat keine Berechtigungen
Schlüssel neu generieren oder eine Rolle mit KI Guard-Durchsuchungsberechtigung zuweisen.
Aktion=Sperren unerwartet
Richtlinie zu aggressiv
Senken Sie auf Moderate oder passen Sie die Kategorietoggles an.
Keine Ergebnisse in TrendAI Vision One™
Selbstgehostet nicht verbunden oder CloudFormation nicht angewendet
Erneut Update AWS account ausführen und bestätigen, dass der Stapel abgeschlossen ist.
Parsing-Fehler
Falscher TMV1-Request-Type für Nutzlast
Überschriftenformat an Anfrageformat anpassen.

Auf einem Kubernetes-Cluster bereitstellen Übergeordnetes Thema

Voraussetzungen:
  • Eine TrendAI Vision One™-Rolle mit der Berechtigung, API-Schlüssel zu erstellen und Scans durchzuführen
  • GPU-aktivierte AMD64-Knoten mit NVIDIA-Treibern, die CUDA 12 oder später unterstützen
    ARM64-Architektur wird in der Vorschau nicht unterstützt.
  • NVIDIA-Geräte-Plugin für Kubernetes auf den GPU-Knoten installiert, und eine Kubernetes-RuntimeClass namens nvidia mit dem Handler nvidia erstellt
  • Kubernetes-Version 1.24 oder höher
  • Helm 3.0+ installiert
  • Mindestens 1 GPU und 16 GB Speicher verfügbar für eine Replik von KI Guard

Prozedur

  1. Navigieren Sie zu AI SecurityAI Application Security.
  2. Klicken Sie auf die Registerkarte AI Guard und dann auf Einrichten.
  3. Klicken Sie auf Add a Cluster. Jeder Kunde hat ein Limit von 25 Clustern.
  4. Geben Sie das Cluster name an. Jeder Clustername muss innerhalb Ihrer Organisation eindeutig sein und darf maximal 64 Zeichen umfassen. Wenn ein Clustername bereits verwendet wird, geben Sie einen anderen Namen an.
  5. Klicken Sie auf Update.
  6. Fügen Sie eine kurze Beschreibung mit bis zu 129 Zeichen hinzu.
  7. Klicken Sie auf Update.
  8. Kopieren Sie den Inhalt der Überschreibungsdatei und speichern Sie ihn als overrides.yaml.
  9. Führen Sie den folgenden Befehl in Ihrem Terminal aus, um KI Guard in Ihrem Cluster bereitzustellen:
    helm install ai-guard oci://public.ecr.aws/trendmicro/ai-security/ai-guard-chart \                  
    --version <version> \                                                                             
    -f overrides.yaml \
    -n trend-ai-security --create-namespace  
    • Wenn die Bereitstellung abgeschlossen ist, erscheint Ihr Cluster im KI Guard Dashboard.
    • Das Gerätetoken läuft in sieben Tagen ab.
  10. Verwenden Sie die folgenden Befehle, um zu überprüfen, ob die Bereitstellung bereit ist:
    Verifizierung
    Befehl
    Pods werden ausgeführt
    kubectl get pods -n trend-ai-security
    Alle Container sind bereit
    kubectl describe pod -n trend-ai-security -l app.kubernetes.io/name=ai-guard
    Lokaler Test
    kubectl port-forward svc/ai-guard 8080:8080 -n trend-ai-security
    Gesundheitsendpunkt in einem anderen Terminal
    curl http://localhost:8080/health
  11. Klicken Sie auf der KI-Schutz-Registerkarte auf Zahnradsymbol, um eine Liste Ihrer Cluster und deren aktuellen Status anzuzeigen.
    Status
    Bedeutung
    Fertig
    Ihr Cluster ist registriert, aber KI Guard wurde noch nicht bereitgestellt.
    Aktiv
    KI-Schutz ist auf diesem Cluster bereitgestellt und läuft.
    Inaktiv
    KI-Schutz war zuvor aktiv, hat jedoch in den letzten 15 Minuten keine Nutzung gemeldet. Dies könnte darauf hinweisen, dass die Bereitstellung entfernt wurde oder der Cluster nicht erreichbar ist.

Cluster aktualisieren Übergeordnetes Thema

Prozedur

  1. Klicken Sie auf der KI-Schutz-Registerkarte auf Zahnradsymbol und dann auf die Registerkarte Versionskontrolle, um festzustellen, ob die Komponentenversion hinter den neuesten Komponentenversionen zurückliegt.
    • Wenn die Komponentenversion mit der neuesten Komponentenversion übereinstimmt, müssen Sie nichts tun.
    • Wenn die Komponentenversion mit der neuesten Komponentenversion übereinstimmt, fahren Sie mit den folgenden Schritten fort.
  2. Klicken Sie auf Copy latest helm script.
  3. Führen Sie in einem Terminal mit kubectl-Zugriff auf den Zielcluster einen der folgenden Upgrade-Befehle aus:
    • Wenn Sie Ihre ursprüngliche overrides.yaml haben, verwenden Sie diesen Befehl:
      helm upgrade ai-guard oci://public.ecr.aws/trendmicro/ai-security/ai-guard-chart \
      --version <latest-version> \                                                                      
      -f overrides.yaml \                                                                               
      -n trend-ai-security                                                                              
    • Wenn Sie overrides.yaml nicht mehr haben, verwenden Sie diesen Befehl
      helm upgrade ai-guard oci://public.ecr.aws/trendmicro/ai-security/ai-guard-chart \                  
      --version <latest-version> \                                                                      
      --reuse-values \                                                                                  
      -n trend-ai-security                                                                              
  4. Warten Sie, bis der Rollout abgeschlossen ist.
    kubectl rollout status deployment/ai-guard -n trend-ai-security
  5. Klicken Sie auf der KI-Schutz-Registerkarte auf Zahnradsymbol und dann auf die Registerkarte Versionskontrolle, um zu bestätigen, dass die Komponentenversion und die zuletzt aktualisierte Zeit des Clusters aktualisiert wurden.

Cluster entfernen Übergeordnetes Thema

Prozedur

  1. Entfernen Sie die Helm-Bereitstellung aus Ihrem Kubernetes-Cluster:
    helm uninstall ai-guard -n trend-ai-security
  2. Wenn keine anderen Workloads den Namespace verwenden, löschen Sie ihn.
    kubectl delete namespace trend-ai-security
  3. Deregistrieren Sie den Cluster aus dem Portal:
    1. Wählen Sie die Cluster aus, die Sie entfernen möchten.
      Alles auswählen wählt nur die auf der aktuellen Seite sichtbaren Cluster aus.
    2. Klicken Sie auf Löschen.
    3. Überprüfen Sie die Liste der Cluster, die Sie entfernen, und klicken Sie dann auf Bestätigen.