Prompt Injection: Wie Cyberangreifer KI-Systeme ausnutzen

Im Gespräch mit  Update Wirtschaft sprach Mirko Ross mit Bettina Seidl , wie Angreifer KI-Modelle manipulieren, indem sie versteckte Anweisungen in Webseiten, E-Mail-Fußzeilen oder PDFs einbetten. Diese “Prompt Injections” bringen KI dazu, unbeabsichtigte oder sogar schädliche Aktionen auszuführen – von der Erzeugung irreführender Ausgaben bis hin zum Datendiebstahl.

Das Problem:
KI folgt dem, was sie als Befehl interpretiert, selbst wenn dieser geschickt getarnt ist. Die derzeitigen Schutzmechanismen stecken noch in den Kinderschuhen, da klassische IT-Sicherheitsstrategien bei der Anwendung auf KI-Modelle versagen.

Der Schlüssel liegt jetzt in der Prävention.
Gewähren Sie KI-Anwendungen niemals uneingeschränkte Zugriffsrechte auf Ihren Rechner und beschränken Sie ihre Nutzung auf verifizierte, vertrauenswürdige Plattformen. Unternehmen sollten klare Richtlinien für die sichere KI-Nutzung aufstellen – damit sie nicht zu spät feststellen, dass gestohlene Daten bereits im Dark Web aufgetaucht sind.

Mehr dazu jetzt im Interview in der ARD Mediathek!

https://www.ardmediathek.de/video/update-wirtschaft/update-wirtschaft-vom-31-10-2025/tagesschau24/