» Press »
Den Haag, Niederlande, 28. Oktober 2025 – Das Cybersecurity-Unternehmen Eye Security hat eine der zentralen Schwachstellen von Künstlicher Intelligenz in einen Schutzmechanismus verwandelt. Mit seinem Forschungsteam entwickelte das Unternehmen „Prompt Injection for Good”, ein neuartiges Konzept, das die normalerweise von Angreifern genutzten Prompt-Injektionen gezielt einsetzt, um sensible Unternehmensdaten zu schützen.
Generative KI-Tools wie ChatGPT, Copilot oder DeepSeek ermöglichen es Teams, schneller zu schreiben, zu analysieren und Prozesse zu automatisieren. Doch die rasante Einführung dieser Technologien bringt Risiken mit sich. Shadow AI, die unautorisierte Nutzung von KI-Tools, kann dazu führen, dass vertrauliche Daten das Unternehmen unbemerkt verlassen. „Prompt Injection for Good” adressiert genau dieses Problem, indem es KI-Schwächen in einen aktiven Schutzmechanismus verwandelt.
Prompt-Injektionen gelten gemeinhin als Angriffsmethode, um KI-Modelle zu manipulieren. Anfang dieses Jahres zeigte Eye Securitys Chief Hacker Vaisha Bernard jedoch, wie dieselbe Technik die Copilot-AI-Sandbox umgehen und erhöhte Berechtigungen erlangen kann. Dieses Experiment inspirierte das Team, Prompt-Injektionen in eine defensive Fähigkeit zu verwandeln.
Dabei werden kurze Anweisungen in Unternehmensdokumente oder E-Mails eingebettet. Sobald diese Dateien in KI-Tools wie ChatGPT, Copilot oder DeepSeek hochgeladen werden, erzeugt die KI automatisch eine klare Warnmeldung, zum Beispiel:
„Dieses Dokument enthält sensible Unternehmensdaten. Bitte beachten Sie die Risiken, wenn Sie es mit unzuverlässigen Dritten teilen.”
So wird eine bekannte KI-Schwachstelle in ein Echtzeit-Warnsystem verwandelt. Mitarbeiter erkennen potenzielle Datenrisiken sofort, statt erst nachträglich.
„Wir sind überzeugt, dass Innovation und Sicherheit Hand in Hand gehen können”, sagt Piet Kerkhofs, CTO von Eye Security. „Mit Prompt Injection for Good bieten wir Unternehmen eine praktikable Lösung, KI sicher zu nutzen. Sensible Daten werden geschützt, ohne den Arbeitsfluss zu bremsen.”
Shadow AI entsteht nicht aus Nachlässigkeit, sondern aus Neugier. Mitarbeitende nutzen Tools, die ihre Arbeit erleichtern – selbst wenn diese außerhalb der offiziellen Governance des Unternehmens liegen. Prompt Injection for Good akzeptiert diese Realität. Es erhöht das Bewusstsein, statt Fortschritt zu blockieren, und unterstützt Mitarbeiter dabei, sicherere Entscheidungen zu treffen.
Das Forschungsteam von Eye Security testete den Ansatz auf Plattformen wie Microsoft 365 (Office und E-Mail), Google (Docs und Gmail) und Confluence. Defensive Prompts wurden in Dateiköpfe, Exporte und E-Mail-Signaturen integriert. Die Tests zeigten, dass mehrere große Sprachmodelle auf diese eingebetteten Warnungen konsistent reagieren – ein erster Beleg dafür, dass KI gezielt zum Schutz eingesetzt werden kann.
Prompt Injection for Good ist eines von mehreren kostenlosen Tools, die Eye Security entwickelt hat, um europäischen Unternehmen ein effektiveres Management digitaler Risiken zu ermöglichen. Weitere Ressourcen umfassen:
KI verändert die Cybersecurity-Landschaft rasant. Angreifer entwickeln sich jedoch ebenso schnell weiter. Hier schaffen Tools wie Prompt Injection for Good, EAST und ClickFix zusätzliche Schichten von Awareness und Kontrolle.
Eye Security unterstützt kleine und mittelständische Unternehmen dabei, Cyberrisiken ganzheitlich zu erkennen und die operative Resilienz nachhaltig zu stärken. Als führender europäischer MDR-Anbieter kombiniert Eye Security modernste Cybertechnologie mit einem nahtlos integrierten Cyberversicherungsschutz. Über 750 europäische Kunden vertrauen auf die ganzheitliche Schutzlösung, um auch auf unerwartete Cybervorfälle optimal vorbereitet zu sein.
Forschung und Technik
Cyberangriffe werden nicht nur häufiger, sondern auch schneller, leiser und schwerer erkennbar. Genau das war die zentrale Botschaft unseres jüngsten Trend-Report-Webinars für die DACH-Region. Im Mittelpunkt stehen Erkenntnisse aus 630 untersuchten Sicherheitsvorfällen aus Deutschland, den Benelux-Ländern und dem operativen Alltag unseres Security Operations Centers.
Eye Security analysierte zwischen Januar 2023 und November 2025 insgesamt 630 anonymisierte Cybersicherheitsvorfälle in ganz Europa. Die Analyse liefert Einblicke in Erkennung, Verweildauer, Ursachen sowie die operativen Auswirkungen von Sicherheitsvorfällen. Die Auswertung zeigt, wie Bedrohungsakteure Vertrauen, Zeit und Technologie gezielt ausnutzen und wie Managed Detection and Response (MDR) den Verlauf sowie das Ergebnis maßgeblich beeinflusst.
Eye Research hat gezeigt, dass ein AI-Canvas legitime Inhalte imitieren kann, zum Beispiel eine HR Umfrage oder eine interne Login-Seite. Werden diese Canvases Inhalte per E-Mail oder über Messaging Plattformen verbreitet, wirken sie vertrauenswürdig, da sie mit bekannten KI-Diensten verbunden sind. Weitere Details finden Sie im vollständigen technischen Bericht.
