158 - Modell gegen Prompt Injection
カートのアイテムが多すぎます
カートに追加できませんでした。
ウィッシュリストに追加できませんでした。
ほしい物リストの削除に失敗しました。
ポッドキャストのフォローに失敗しました
ポッドキャストのフォロー解除に失敗しました
158 - Modell gegen Prompt Injection
-
ナレーター：
-
著者：
概要
In dieser Folge des KI Gilde Podcasts geht es um die unsichtbare Gefahr von Prompt Injections bei der Automatisierung von KI-Systemen. Wir erklären, wie Angreifer durch sogenannte indirekte Injections versteckte Schadbefehle in scheinbar harmlosen PDFs oder Webseiten platzieren, um die KI zu manipulieren.
Als Lösung stellen wir das spezialisierte Wächtermodell Wolf-Defender vor. Dieses extrem kompakte Modell ist unter 300 MB groß, lässt sich lokal ohne Latenz ausführen und fungiert als vorgeschaltetes Schutzschild für autonome KI-Agenten und RAG-Systeme. Durch ein großes Kontextfenster von 2048 Token und das Training mit "Hard Negatives" erkennt der Wolf-Defender echte Angriffe zuverlässig selbst tief in Dokumenten, ohne bei harmlosen Nutzeranfragen unnötige Fehlalarme auszulösen. Erfahre, warum blindes Vertrauen in externe Daten nicht mehr ausreicht und wie dieses Modell deine KI-Dienste effektiv absichert.