Integrieren Sie TrendAI Vision One™ KI Guard in Ihre Anwendung, um Ihre KI-Nutzung auf schädliche Inhaltserstellung,
sensible Informationslecks und Eingabeaufforderungsinjektionen zu durchsuchen.
Für die von TrendAI gehostete Integration siehe Trend-gehostete KI-Wache integrieren. Für Datensouveränität, implementieren und hosten Sie AI Guard in Ihrer Amazon Web Services (AWS)-Umgebung oder einem Kubernetes-Cluster. TrendAI Vision One™ erhält nur die Scan-Ergebnisse.
KI Guard verwendet Credits für die Modellüberprüfung. Planen Sie den monatlichen Credit-Verbrauch basierend
auf den erwarteten Modellüberprüfungen.
Auf AWS bereitstellen
Voraussetzungen:
-
Sie müssen eine TrendAI Vision One™-Rolle mit der Berechtigung zum Erstellen von API-Schlüsseln und Durchführen von Scans haben.
-
Überprüfen Sie, ob Ihr AWS-Konto über genügend Kontingent für On-Demand-G- und VT-Instanztypen verfügt. TrendAI™ empfiehlt, einen Puffer hinzuzufügen, um potenzielle Änderungen bei der Instanzgröße zu bewältigen.
-
Aktivieren Sie die Berechtigungen für CloudWatch-Protokollierung in Ihrem AWS-Konto.
Prozedur
- Gehen Sie zu , um Ihr AWS-Konto zu verbinden oder zu aktualisieren.
- Um ein neues AWS-Konto zu konfigurieren:
- Klicken Sie auf Konto hinzufügen.
- Für Deployment Method wählen Sie CloudFormation.
- Wählen Sie den Kontotyp aus:
-
Single AWS Account
-
AWS Organization
-
- Geben Sie ein Account name und ein Beschreibung an, um in Cloud-Konten anzuzeigen.
- Geben Sie die Organizational Unit ID an. Wenn Sie die AWS-Organisation hinzufügen, erhalten alle Mitgliedskonten ohne einen in AWS angegebenen Alias einen automatisch generierten Namen in Cloud-Konten.
- So konfigurieren Sie ein bestehendes AWS-Konto:
- Klicken Sie auf Update AWS account und dann auf den Kontonamen.
- In Cloud Accounts Settings klicken Sie auf die Registerkarte Stack Update.
- Wählen Sie die AWS-Region für die Bereitstellung der CloudFormation-Vorlage aus.
- Um benutzerdefinierte Tags zu den von TrendAI Vision One™ bereitgestellten Ressourcen hinzuzufügen, wählen Sie Resource tagging und geben Sie die Schlüssel-Wert-Paare an.
-
Zum Hinzufügen von bis zu drei Tags klicken Sie auf Create a new tag.
-
- Klicken Sie auf Weiter.
- AI Application Security aktivieren.
- Wählen Sie den Verteilung aus.
- Wählen Sie Enable AI Guard.
- Öffnen Sie in derselben Browsersitzung einen neuen Tab und melden Sie sich bei dem AWS-Konto an, das Sie mit einer Rolle verbinden möchten, die Administratorrechte hat.
- Für ein bestehendes AWS-Konto:
- Klicken Sie unter Update the CloudFormation template auf Copy S3 URL.
- Wenn der API-Schlüssel abgelaufen ist, klicken Sie auf Copy Vision One API key und ersetzen Sie dann den API-Schlüssel in CloudFormation. Der TrendAI Vision One™ API-Schlüssel ist 90 Tage gültig.
- Um die Vorlage vor der Bereitstellung zu überprüfen, klicken Sie auf Download and Review Template.
- Gehen Sie zu Stacks und klicken Sie auf den Stapelnamen für den Stapel, den Sie aktualisieren möchten.
-
Vision-One-Cloud-Kontoverwaltung
-
- Klicken Sie auf Update.
- Wählen Sie Replace current template.
- Fügen Sie die S3-URL-Vorlage in Amazon S3 URL ein.
- Klicken Sie auf Weiter.
- Für ein neues AWS-Konto:
- Klicken Sie auf Weiter.
- Um die automatisierte Bereitstellung zu verwenden:
-
Wählen Sie Automated für den Bereitstellungstyp aus.
-
Klicken Sie auf Launch stack, um die CloudFormation-Vorlage in der AWS-Konsole zu starten.
-
Führen Sie die Schritte in Quick Create Stack aus.
-
- Um Manuelle Verteilung zu verwenden:
-
Wählen Sie Manuell für den Bereitstellungstyp aus.
-
Klicken Sie auf Download the template and stack parameters as a .zip.
-
Gehen Sie zu Stacks unter CloudFormation.
-
Erstellen Sie einen neuen Stack mit den Parametern in der .zip-Datei.
-
- In TrendAI Vision One™ klicken Sie auf Fertig.
- Öffnen Sie in einem anderen Tab die AWS-Managementkonsole und öffnen Sie den CloudFormation-Stack.
- Gehen Sie zur Registerkarte Outputs und kopieren Sie den GuardAPIEndpoint.
- Integrieren Sie KI Guard in Ihre Anwendung. Beziehen Sie sich auf den folgenden Codeausschnitt
für die Integration.
import os import requests # Get your TrendAI Vision One™ API key from environment variable api_key = os.environ.get("V1_API_KEY") if not api_key: raise ValueError("Missing V1_API_KEY environment variable") # Get your TrendAI™ AI Guard URL from environment variable ai_guard_url = os.environ.get("AI_GUARD_URL") if not ai_guard_url: raise ValueError("Missing AI_GUARD_URL environment variable") # Configure headers headers = { "Authorization": f"Bearer {api_key}", "Content-Type": "application/json", "TMV1-Application-Name": "your-application-name" # Required } # Prepare the payload payload = { "prompt": "Your prompt or message here" } # Copy AI Guard URL from AWS template Stack Output url = f"{ai_guard_url}" # Make the API request response = requests.post( url, headers=headers, json=payload ) # Check response status if response.status_code == 200: result = response.json() # API returns action and optional reasons action = result.get("action") reasons = result.get("reasons", []) if action == "Allow": print("Request allowed by AI Guard") elif action == "Block": print(f"Request blocked by AI Guard") print(f"Reasons: {', '.join(reasons)}") print(f"Response ID: {result.get('id')}") else: print(f"Error: {response.status_code} - {response.text}")
-
Setzen Sie den Wert von AI_GUARD_URL mithilfe des Werts von GuardAPIEndpoint.
Anfrageoptionen
ParameterWerteBeschreibungAnforderungstypEinfache Anfrage oder OpenAI-Chat-FormateMitTMV1-Request-Type-Header auswählen.AntwortdetailsMinimal oder DarstellungSteuerung mitPrefer-Header.AuthentifizierungTräger-API-SchlüsselAutorisierung:Bearer <token>.Für weitere Informationen siehe die KI Guard API-Referenz und Codebeispiele und das TrendAI™ Automatisierungszentrum. -
Deaktiviert selbstgehosteten KI-Schutz in AWS
Prozedur
- Gehe zu Cloud SecurityCloud AccountsAWS.
- Protokollieren Sie, bei welchen Konten die KI-Sicherheitsfunktion aktiviert ist.
- In Cloud Accounts Settings klicken Sie auf die Registerkarte Stack Update.
- AI Application Security deaktivieren.
- Klicken Sie unter Update the CloudFormation template auf Copy S3 URL.
- Gehen Sie zu Stacks und klicken Sie auf den Stapelnamen des Stapels, den Sie aktualisieren möchten.
-
Vision-One-Cloud-Kontoverwaltung
-
- Klicken Sie auf Update.
- Wenn der API-Schlüssel abgelaufen ist, klicken Sie auf Copy Vision One API key und ersetzen Sie dann den API-Schlüssel in CloudFormation. Der TrendAI Vision One™ API-Schlüssel ist 90 Tage gültig.
- Überprüfung der Entfernung des KI-Sicherheitsfunktionsstapels.
Nächste Schritte
Fehlerbehebung
|
Problem
|
Ursache
|
Aktion
|
|
401 oder 403 von API
|
Ungültiger oder abgelaufener API-Schlüssel; Rolle hat keine Berechtigungen
|
Schlüssel neu generieren oder eine Rolle mit KI Guard-Durchsuchungsberechtigung zuweisen.
|
|
Aktion=Sperren unerwartet
|
Richtlinie zu aggressiv
|
Senken Sie auf Moderate oder passen Sie die Kategorietoggles an.
|
|
Keine Ergebnisse in TrendAI Vision One™
|
Selbstgehostet nicht verbunden oder CloudFormation nicht angewendet
|
Erneut Update AWS account ausführen und bestätigen, dass der Stapel abgeschlossen ist.
|
|
Parsing-Fehler
|
Falscher
TMV1-Request-Type für Nutzlast |
Überschriftenformat an Anfrageformat anpassen.
|
Auf einem Kubernetes-Cluster bereitstellen
Voraussetzungen:
-
Eine TrendAI Vision One™-Rolle mit der Berechtigung, API-Schlüssel zu erstellen und Scans durchzuführen
-
GPU-aktivierte AMD64-Knoten mit NVIDIA-Treibern, die CUDA 12 oder später unterstützenARM64-Architektur wird in der Vorschau nicht unterstützt.
-
NVIDIA-Geräte-Plugin für Kubernetes auf den GPU-Knoten installiert, und eine Kubernetes-RuntimeClass namens nvidia mit dem Handler nvidia erstellt
-
Kubernetes-Version 1.24 oder höher
-
Helm 3.0+ installiert
-
Mindestens 1 GPU und 16 GB Speicher verfügbar für eine Replik von KI Guard
Prozedur
- Navigieren Sie zu AI Application Security.
- Klicken Sie auf die Registerkarte AI Guard und dann auf Einrichten.
- Klicken Sie auf Add a Cluster. Jeder Kunde hat ein Limit von 25 Clustern.
- Geben Sie das Cluster name an. Jeder Clustername muss innerhalb Ihrer Organisation eindeutig sein und darf maximal 64 Zeichen umfassen. Wenn ein Clustername bereits verwendet wird, geben Sie einen anderen Namen an.
- Klicken Sie auf Update.
- Fügen Sie eine kurze Beschreibung mit bis zu 129 Zeichen hinzu.
- Klicken Sie auf Update.
- Kopieren Sie den Inhalt der Überschreibungsdatei und speichern Sie ihn als
overrides.yaml. - Führen Sie den folgenden Befehl in Ihrem Terminal aus, um KI Guard in Ihrem Cluster
bereitzustellen:
helm install ai-guard oci://public.ecr.aws/trendmicro/ai-security/ai-guard-chart \ --version <version> \ -f overrides.yaml \ -n trend-ai-security --create-namespace
-
Wenn die Bereitstellung abgeschlossen ist, erscheint Ihr Cluster im KI Guard Dashboard.
-
Das Gerätetoken läuft in sieben Tagen ab.
-
- Verwenden Sie die folgenden Befehle, um zu überprüfen, ob die Bereitstellung bereit
ist:VerifizierungBefehlPods werden ausgeführt
kubectl get pods -n trend-ai-securityAlle Container sind bereitkubectl describe pod -n trend-ai-security -l app.kubernetes.io/name=ai-guardLokaler Testkubectl port-forward svc/ai-guard 8080:8080 -n trend-ai-securityGesundheitsendpunkt in einem anderen Terminalcurl http://localhost:8080/health - Klicken Sie auf der KI-Schutz-Registerkarte auf
, um eine Liste Ihrer Cluster und deren aktuellen Status anzuzeigen.StatusBedeutungFertigIhr Cluster ist registriert, aber KI Guard wurde noch nicht bereitgestellt.AktivKI-Schutz ist auf diesem Cluster bereitgestellt und läuft.InaktivKI-Schutz war zuvor aktiv, hat jedoch in den letzten 15 Minuten keine Nutzung gemeldet. Dies könnte darauf hinweisen, dass die Bereitstellung entfernt wurde oder der Cluster nicht erreichbar ist.
Cluster aktualisieren
Prozedur
- Klicken Sie auf der KI-Schutz-Registerkarte auf
und dann auf die Registerkarte Versionskontrolle, um festzustellen, ob die Komponentenversion
hinter den neuesten Komponentenversionen zurückliegt.-
Wenn die Komponentenversion mit der neuesten Komponentenversion übereinstimmt, müssen Sie nichts tun.
-
Wenn die Komponentenversion mit der neuesten Komponentenversion übereinstimmt, fahren Sie mit den folgenden Schritten fort.
-
- Klicken Sie auf Copy latest helm script.
- Führen Sie in einem Terminal mit kubectl-Zugriff auf den Zielcluster einen der folgenden
Upgrade-Befehle aus:
-
Wenn Sie Ihre ursprüngliche overrides.yaml haben, verwenden Sie diesen Befehl:
helm upgrade ai-guard oci://public.ecr.aws/trendmicro/ai-security/ai-guard-chart \ --version <latest-version> \ -f overrides.yaml \ -n trend-ai-security
-
Wenn Sie overrides.yaml nicht mehr haben, verwenden Sie diesen Befehl
helm upgrade ai-guard oci://public.ecr.aws/trendmicro/ai-security/ai-guard-chart \ --version <latest-version> \ --reuse-values \ -n trend-ai-security
-
- Warten Sie, bis der Rollout abgeschlossen ist.
kubectl rollout status deployment/ai-guard -n trend-ai-security
- Klicken Sie auf der KI-Schutz-Registerkarte auf
und dann auf die Registerkarte Versionskontrolle, um zu bestätigen, dass die Komponentenversion
und die zuletzt aktualisierte Zeit des Clusters aktualisiert wurden.
Cluster entfernen
Prozedur
- Entfernen Sie die Helm-Bereitstellung aus Ihrem Kubernetes-Cluster:
helm uninstall ai-guard -n trend-ai-security
- Wenn keine anderen Workloads den Namespace verwenden, löschen Sie ihn.
kubectl delete namespace trend-ai-security
- Deregistrieren Sie den Cluster aus dem Portal:
- Wählen Sie die Cluster aus, die Sie entfernen möchten.Alles auswählen wählt nur die auf der aktuellen Seite sichtbaren Cluster aus.
- Klicken Sie auf Löschen.
- Überprüfen Sie die Liste der Cluster, die Sie entfernen, und klicken Sie dann auf Bestätigen.
- Wählen Sie die Cluster aus, die Sie entfernen möchten.
