Der Trend Micro Artifact Scanner (TMAS) umfasst KI-Durchsuchungsfunktionen. Dies ermöglicht
es Ihnen, TMAS zu verwenden, um Sicherheits-Schwachstellen in Ihren KI-Anwendungen
zu identifizieren und Risiken im Zusammenhang mit dem OWASP Top 10 für Large Language Model Applications und MITRE Adversarial Threat Landscape for Artificial-Intelligence Systems (ATLAS) zu finden. Sie können den KI-Scanner lokal oder von Trend Micro gehostet ausführen.
Der Scanner kann Schwachstellen in Folgendem finden:
- OpenAI LLM Endpunkte (https://platform.openai.com/docs/api-reference/introduction)
-
Benutzerdefinierte KI-Anwendungen
Der Scanner kann Schwachstellen in Bezug auf folgende Bereiche finden:
- Offenlegung sensibler Daten
- Systemaufforderung Leck
- Bösartige Code-Erzeugung
- Halluzinierte Software-Entitäten
- Definition des Agentenwerkzeugs Leckage
Weitere Informationen zur Konfiguration von TMAS mit KI-Scanner finden Sie unter Trend-gehostete KI-Durchsuchungseinstellungen konfigurieren.
Nach der Integration von TMAS mit dem KI-Scanner in Ihre Continuous Integration /
Continuous Deployment (CI/CD)-Pipeline können Sie die Ergebnisse in anzeigen.