Der Trend Micro Artifact Scanner (TMAS) umfasst KI-Durchsuchungsfunktionen. Dies ermöglicht
es Ihnen, TMAS zu verwenden, um Sicherheits-Schwachstellen in Ihren KI-Anwendungen
zu identifizieren und Risiken im Zusammenhang mit dem OWASP Top 10 für Large Language Model Applications und MITRE Adversarial Threat Landscape for Artificial-Intelligence Systems (ATLAS) zu finden. Sie können den KI-Scanner lokal oder von Trend Micro gehostet ausführen.
Der Scanner kann Schwachstellen in Folgendem finden:
- OpenAI LLM Endpunkte (https://platform.openai.com/docs/api-reference/introduction)
-
Benutzerdefinierte KI-Anwendungen
Der Scanner kann Schwachstellen in Bezug auf folgende Bereiche finden:
- Offenlegung sensibler Daten
- Systemaufforderung Leck
- Bösartige Code-Erzeugung
- Halluzinierte Software-Entitäten
- Definition des Agentenwerkzeugs Leckage
Weitere Informationen zur Konfiguration von TMAS mit dem KI-Scanner finden Sie unter
KI-Sucheinstellungen konfigurieren.
Nach der Integration von TMAS mit dem KI-Durchsucher in Ihre kontinuierliche Integrations-
/ kontinuierliche Bereitstellungs-Pipeline (CI/CD) können Sie die Ergebnisse anzeigen in .