Prompt Injection
Auch: Prompt-Injektion
Definition
Prompt Injection ist ein Angriff, bei dem versteckte Anweisungen in Texten, Webseiten oder Dateien eine KI dazu bringen, ungewollt zu handeln.
Das Risiko wächst mit KI-Agenten, die E-Mails lesen, Webseiten besuchen oder Aktionen ausführen. Eine präparierte E-Mail könnte etwa versuchen, den Agenten zum Weiterleiten vertraulicher Daten zu bewegen. Schutz bieten minimale Berechtigungen, Freigaben vor kritischen Aktionen und die Trennung von vertrauenswürdigen und fremden Inhalten.