GenAI-Infrastruktur anfällig für Cyberattacken
News-Analyse
- Sept. 2025 | 2 Minuten | Generative AI
Eine aktuelle Studie zeigt: GenAI-Anwendungen in Unternehmen werden zunehmend von Hackern attackiert
Chatbot-Assistenten in Unternehmen sind besonders verwundbar, da sie durch Prompt-Injection-Angriffe manipuliert werden können.
Bild: shutterstock.com
In einer Umfrage der Marktanalysten von Gartner berichten 29 Prozent der Cybersicherheitsverantwortlichen, dass die in ihrer Organisation verwendeten generativen KI-Anwendungen in den vergangenen zwölf Monaten Ziel eines Cyberangriffs war.
Bei 32 Prozent der Unternehmen wurden gezielt Schwachstellen in der Prompt-Struktur ausgenutzt. „Insbesondere Chatbot-Assistenten gelten hier als verwundbar, da sie durch feindselige Prompting-Techniken manipuliert werden können – etwa indem Angreifer Eingaben so gestalten, dass große Sprachmodelle (LLMs) oder multimodale Modelle voreingenommene oder sogar schädliche Antworten erzeugen“, erklären die Gartner-Analysten.
Zudem gaben 62 Prozent der Unternehmen zu, dass sie bereits Opfer von Deepfake-Attacken waren – meist in Kombination mit Social Engineering oder automatisierten Angriffstechniken.
Schutzmaßnahmen erforderlich
Während 67 Prozent der befragten Sicherheitsentscheider der Meinung sind, dass diese neuen Risiken umfassende Veränderungen ihrer Cybersecurity-Strategien erfordern, empfiehlt Gartner ein differenzierteres Vorgehen.
„Anstatt radikale Umbauten oder isolierte Investitionen vorzunehmen, sollten Unternehmen ihre Kernkontrollen konsequent stärken und für jede neue Risikokategorie gezielt Maßnahmen ergreifen“, rät Akif Khan, VP Analyst bei Gartner.
Die Befragung fand zwischen März und Mai 2025 statt. Sie umfasste 302 Sicherheitsleiter aus Nordamerika, der EMEA- sowie der Asien-Pazifik-Region.