Ansichten:
Der Artifact Scanner umfasst KI-Durchsuchungsfunktionen. Dies ermöglicht es Ihnen, den Artifact Scanner zu verwenden, um Sicherheits-Schwachstellen in Ihren KI-Anwendungen zu identifizieren und Risiken im Zusammenhang mit dem OWASP Top 10 für Large Language Model Applications und MITRE Adversarial Threat Landscape for Artificial-Intelligence Systems (ATLAS) zu finden. Sie können den KI-Scanner lokal oder gehostet von TrendAI™ ausführen.
Der Scanner kann Schwachstellen in Folgendem finden:
Der KI-Scanner kann in jede benutzerdefinierte KI-Anwendung integriert werden, die eine API zum Senden von Eingabeaufforderungen und Empfangen von textbasierten Modellausgaben bereitstellt. Die Anwendung muss nicht dem OpenAI-API-Standard entsprechen. Ihre Anwendung ist kompatibel, wenn sie die folgenden Anforderungen erfüllt:
  • Stellt einen REST-API-Endpunkt (öffentlich oder privat) bereit
  • Akzeptiert eine Eingabeaufforderung oder Nachricht im Anforderungstext
  • Gibt eine vom Sprachmodell generierte Textantwort zurück
  • Verwendet JSON für Anforderungs- und Antwortformate
  • Unterstützt HTTP- oder HTTPS-POST-Anfragen
Sie können beliebige Feldnamen in den Anforderungs- und Antwortnutzlasten verwenden, solange Sie diese in der Konfigurationsdatei definieren. Für Weitere Informationen siehe KI-Scanner-Konfigurationsbeispiele für benutzerdefinierte KI-Anwendungen.
Der Scanner kann Schwachstellen in Bezug auf folgende Bereiche finden:
  • Offenlegung sensibler Daten
  • Systemaufforderung Leck
  • Bösartige Code-Erzeugung
  • Halluzinierte Software-Entitäten
  • Definition des Agentenwerkzeugs Leckage
Weitere Informationen zur Konfiguration des Artifact Scanners mit dem KI-Scanner finden Sie unter Trend-gehostete KI-Durchsuchungseinstellungen konfigurieren.
Nachdem Sie den Artifact Scanner mit dem KI-Scanner in Ihre Continuous Integration / Continuous Deployment (CI/CD)-Pipeline integriert haben, können Sie die Ergebnisse in Security for AI Stack → AI Scanner and AI Guard anzeigen.