Künstliche Intelligenz & Cybersicherheit
Vorsicht bei Prompteingaben
KI-Tools können manipuliert werden – ohne dass Sie es bemerken. Versteckte Anweisungen in Dokumenten und Webseiten steuern KI-Systeme im Hintergrund. Das Bundesamt für Sicherheit in der Informationstechnik stuft diese Angriffsmethode als ernstzunehmende Bedrohung ein.
KI-Tools sind aus dem Berufsalltag kaum noch wegzudenken. Texte formulieren, Informationen zusammenfassen, Fragen beantworten – die Helfer wirken oft beeindruckend. Doch wer KI nutzt, sollte wissen: Das Werkzeug kann manipuliert werden. Und zwar ohne dass Sie es merken.
Was viele nicht wissen: KI-Systeme unterscheiden technisch nicht klar zwischen Ihrer Arbeitsanweisung und den Daten, die Sie eingeben. Beides landet im selben Eingabefeld. Genau das nutzen Angreifer gezielt aus.
Gute Antworten brauchen gute Eingaben – und klare Grenzen
Eine KI liefert nur das, womit man sie füttert. Wer ihr schlechte oder unvollständige Informationen gibt, bekommt schlechte Antworten – egal wie modern das System ist. Im Alltag liegt es deshalb nahe, der KI zusätzliche Daten aus dem Unternehmen mitzugeben.
Das kann sinnvoll sein – aber nur, wenn es auch erlaubt ist. Viele Unternehmen haben Richtlinien, welche Daten für KI-Anwendungen genutzt werden dürfen. Wer diese Vorgaben umgeht, riskiert nicht nur einen Datenschutzverstoß nach Art. 5 Abs. 1 lit. f DSGVO, sondern auch disziplinarische Konsequenzen.
Indirect Prompt Injection: Die unsichtbare Bedrohung
Viele greifen auf externe Quellen zurück, um ihrer KI zusätzlichen Kontext zu geben. Das birgt eine Gefahr, die selbst Fachleute lange unterschätzt haben: Angreifer verstecken Anweisungen in Dokumenten oder Webseiten – unsichtbar für das menschliche Auge, aber lesbar für die KI.
Ein Text in weißer Schrift auf weißem Hintergrund oder mit Schriftgröße null ist für Sie nicht zu sehen. Die KI liest ihn trotzdem – und folgt den darin enthaltenen Befehlen. Diese Angriffsmethode nennt sich Indirect Prompt Injection.
👁️ Unsichtbar für Menschen
Angreifer verstecken Anweisungen in weißer Schrift, Schriftgröße 0 oder hinter Bildern. Das menschliche Auge sieht nichts – die KI liest alles.
🤖 Die KI gehorcht
Das KI-System unterscheidet nicht zwischen Ihrer Anweisung und dem eingeschleusten Befehl. Es führt aus, was im Eingabefeld steht – unabhängig von der Quelle.
📄 Angriffsvektoren
Manipulierte PDFs, Webseiten, E-Mail-Anhänge oder öffentliche Dokumente – überall dort, wo eine KI externe Inhalte liest, kann ein Angriff versteckt sein.
⚠️ Kein Fehlermeldung
Die KI zeigt keinen Hinweis, dass sie manipuliert wurde. Für den Nutzer sieht die Ausgabe normal aus – der Schaden ist bereits entstanden.
„Das Bundesamt für Sicherheit in der Informationstechnik hat Prompt Injection als ernstzunehmende Bedrohung eingestuft und informiert seit 2023 auf seiner Website darüber.“
— Bundesamt für Sicherheit in der Informationstechnik (BSI)
Autonome KI-Agenten erhöhen das Risiko
Besonders kritisch wird es, wenn KI-Systeme selbstständig im Internet recherchieren – sogenannte KI-Agenten. Ohne menschliche Kontrolle im Einzelfall können sie auf manipulierte Quellen stoßen und entsprechend handeln. Was genau ausgelöst wird, bleibt für Anwender oft unsichtbar.
Wer in solchen Systemen mit personenbezogenen Daten arbeitet, muss bedenken: Eine unkontrollierte Verarbeitung kann gegen Art. 32 DSGVO verstoßen – und im schlimmsten Fall eine meldepflichtige Datenschutzverletzung auslösen.
Gefahren kennen – und handlungsfähig bleiben
Wer externe Quellen völlig meidet, verliert einen echten Mehrwert. Das Ziel ist nicht Verzicht, sondern Bewusstsein. Drei Fragen sollten Sie sich vor jeder KI-Eingabe stellen:
01 Erlaubt? — Darf ich diese Daten laut interner KI-Richtlinie meines Unternehmens verwenden? Personenbezogene oder vertrauliche Daten gehören nicht ungefiltert in externe KI-Tools.
02 Vertrauenswürdig? — Stammt die Quelle von einer bekannten, seriösen Stelle? Unbekannte Dokumente, Links aus E-Mails oder fremde Webseiten sind potenzielle Angriffsvektoren.
03 Geprüft? — Haben Sie die KI-Antwort inhaltlich auf Plausibilität kontrolliert, bevor Sie sie weiterverwenden? KI-Ausgaben nach einem Angriff können gezielt fehlerhaft oder irreführend sein.
Zusätzlich empfiehlt es sich: Legen Sie fest, welche Internetquellen Ihr KI-Agent bevorzugt nutzen soll. Das reduziert das Risiko manipulierter Eingaben erheblich und schafft eine kontrollierbare Basis für den KI-Einsatz im Unternehmen.
Schnell-Check: Sicherer KI-Einsatz im Unternehmen
✓ KI-Richtlinie vorhanden – regelt welche Daten in externe KI-Tools eingegeben werden dürfen
✓ Quellen prüfen – nur bekannte, vertrauenswürdige Quellen als KI-Eingabe verwenden
✓ KI-Ausgaben hinterfragen – Ergebnisse inhaltlich prüfen, nicht blind übernehmen
✓ KI-Agenten einschränken – Quellenliste für autonome KI-Systeme definieren
✓ Mitarbeitende schulen – Bewusstsein für Prompt Injection und KI-Risiken schaffen
✗ Keine vertraulichen Daten in externe KI-Tools ohne klare Rechtsgrundlage
✗ Keine unbekannten Dokumente ungeprüft als KI-Kontext verwenden
Weiterführende Informationen
BSI: Künstliche Intelligenz sicher einsetzen
Das Bundesamt für Sicherheit in der Informationstechnik gibt Empfehlungen zum sicheren Einsatz von KI-Systemen in Unternehmen – darunter Hinweise zu Prompt Injection, KI-Agenten und dem Schutz sensibler Daten.
Zum BSI-Artikel →Prompt Injection ist keine abstrakte Bedrohung aus dem Lehrbuch – es ist eine reale Angriffsmethode, die heute aktiv eingesetzt wird. Unternehmen, die KI-Tools nutzen, ohne ihre Mitarbeitenden zu sensibilisieren und klare Richtlinien zu etablieren, setzen sich unnötigen Risiken aus: Datenschutzverstößen, Datenverlust und unkontrollierten KI-Aktionen.
Der erste Schritt ist Bewusstsein. Wer weiß, wie der Angriff funktioniert, kann ihn erkennen – und verhindern. TBCS IT GmbH unterstützt Sie dabei, den KI-Einsatz in Ihrem Unternehmen sicher und datenschutzkonform zu gestalten.
KI sicher einsetzen – aber wie?
Wir helfen Ihnen, eine KI-Richtlinie für Ihr Unternehmen zu entwickeln und Ihre Mitarbeitenden für aktuelle Bedrohungen wie Prompt Injection zu sensibilisieren.