Der TrendAI™ Artifact Scanner (TMAS) umfasst KI-Durchsuchungsfunktionen. Dies ermöglicht Ihnen,
TMAS zu verwenden, um Sicherheits-Schwachstellen in Ihren KI-Anwendungen zu identifizieren
und Risiken im Zusammenhang mit den OWASP Top 10 für Anwendungen mit großen Sprachmodellen und MITRE Adversarial Threat Landscape für künstliche Intelligenz-Systeme (ATLAS) zu finden. Sie können den KI-Scanner lokal oder von TrendAI™ gehostet ausführen.
Der Scanner kann Schwachstellen in Folgendem finden:
- OpenAI LLM Endpunkte (https://platform.openai.com/docs/api-reference/introduction)
-
Benutzerdefinierte KI-Anwendungen
Der Scanner kann Schwachstellen in Bezug auf folgende Bereiche finden:
- Offenlegung sensibler Daten
- Systemaufforderung Leck
- Bösartige Code-Erzeugung
- Halluzinierte Software-Entitäten
- Definition des Agentenwerkzeugs Leckage
Weitere Informationen zur Konfiguration von TMAS mit KI-Scanner finden Sie unter Trend-gehostete KI-Durchsuchungseinstellungen konfigurieren.
Nach der Integration von TMAS mit dem KI-Scanner in Ihre Continuous Integration /
Continuous Deployment (CI/CD)-Pipeline können Sie die Ergebnisse in anzeigen.