Prompt Injection ist ein Angriff oder eine Manipulation, bei der versteckte Anweisungen das Verhalten eines KI-Systems beeinflussen sollen. Das kann in Webseiten, Dokumenten oder Nachrichten stehen. Besonders relevant ist es, wenn KI externe Inhalte liest oder automatisch weiterverarbeitet.
Warum relevant am Arbeitsplatz
- Versteckte Anweisungen können Prozesse stören.
- Automatisierung erhöht die Wirkung solcher Eingaben.
- Prüfung und Begrenzung von Zugriffsrechten helfen.
Alle Begriffe praxisnah erklärt im Kurs ‹KI sicher am Arbeitsplatz›.