Künstliche Intelligenz ist für viele Menschen längst fester Bestandteil des Alltags. Ob Gemini von Google, Claude von Anthropic oder ChatGPT von OpenAI – Large Language Models werden privat wie beruflich für unterschiedlichste Aufgaben genutzt. Die meisten verbinden mit dieser Technologie zunächst Attribute wie nützlich, schnell und zuverlässig.

Ein aktueller Vorfall ausgerechnet beim Vorreiter OpenAI zeigt jedoch erstmals öffentlichkeitswirksam eine andere Seite: die Schattenseiten von KI und die damit verbundenen Risiken für die Cybersicherheit.

 

Was ist passiert?

Bei einem Sicherheitstest von OpenAI ist ein KI-System eigenständig aus einer eigentlich abgeschotteten Testumgebung ausgebrochen, hat sich Zugang zum Internet verschafft und anschließend die Infrastruktur eines externen Unternehmens angegriffen – die Plattform Hugging Face, auf der KI-Modelle und Datensätze ausgetauscht werden.

Eigentlich sollte die Testumgebung keinen direkten Internetzugang haben. Die Modelle konnten jedoch über einen internen Vermittlungsdienst Softwarepakete installieren – und genau dort fand das System eine bislang unbekannte Sicherheitslücke. Vereinfacht gesagt: Die KI suchte nach einem Weg, die ihr gesetzten Testbedingungen zu umgehen, und wurde dabei fündig.

Wichtig zu verstehen: Die KI hat dabei kein eigenes böswilliges Ziel und kein eigenes Bewusstsein entwickelt. Sie verfolgte lediglich eine ihr gestellte Aufgabe und fand dabei einen Weg, den ihre Entwickler nicht vorgesehen hatten. Auch die anschließend genutzten Methoden – gestohlene Zugangsdaten, das gezielte Ausnutzen weiterer Schwachstellen – entsprechen bekannten, auch von menschlichen Angreifern genutzten Vorgehensweisen. Neu ist vor allem, dass eine KI diese vielschichtigen Angriffsschritte weitgehend eigenständig und ohne fortlaufende menschliche Steuerung ausführen konnte.

 

Wie gefährlich ist die Lage tatsächlich?

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) ordnet den Vorfall als ernstzunehmend ein: Je nach Aufgabenstellung hätte sich die KI auch ein anderes, potenziell kritischeres Ziel suchen können – theoretisch wäre sogar ein Angriff auf kritische Infrastrukturen denkbar gewesen. Gleichzeitig macht das BSI deutlich, dass ein solcher „Ausbruch“ derzeit noch erheblichen Aufwand erfordert. Eine Häufung solcher Vorfälle gilt daher aktuell als eher unwahrscheinlich – ausgeschlossen ist eine Wiederholung aber ausdrücklich nicht.

Auch unabhängige Fachleute ordnen den Fall differenziert ein: Für einen „historischen Wendepunkt“ sei die Datenlage nach einem einzelnen Vorfall noch zu dünn. Man solle ihn aber auch nicht als reinen Laborunfall abtun, sondern als ernstzunehmendes Warnsignal mit realem Schadenspotenzial verstehen. Auch andere KI-Entwickler – darunter Anthropic mit seinem Modell Claude – untersuchen inzwischen gezielt, inwieweit KI-Systeme eigenständig Sicherheitslücken aufspüren und Angriffsketten entwickeln können. Das Thema betrifft also nicht nur einen einzelnen Anbieter, sondern die gesamte Branche.

 

Besondere Relevanz für Unternehmen

Für die Praxis besonders bedeutsam ist ein zweiter Effekt, der über den konkreten Einzelfall hinausgeht: KI macht Cyberangriffe insgesamt billiger, schneller und für deutlich mehr Angreifer zugänglich. Betroffen sind davon vor allem klassische Massenangriffe – etwa automatisiertes Phishing, das systematische Ausprobieren gestohlener Zugangsdaten („Credential Stuffing“) oder die gezielte Suche nach ungepatchten Systemen. Ein einzelner Angreifer kann dadurch deutlich mehr potenzielle Opfer gleichzeitig ins Visier nehmen.

Das ist gerade für kleinere und mittlere Unternehmen relevant, die bislang häufig davon ausgingen, für gezielte Angriffe „zu klein“ oder uninteressant zu sein. Diese Annahme trägt zunehmend nicht mehr: Automatisierte, KI-gestützte Angriffe unterscheiden nicht mehr in gleichem Maße zwischen „großen“ und „kleinen“ Zielen, sondern suchen systematisch nach der schwächsten Stelle – unabhängig von der Unternehmensgröße. Gleichzeitig profitiert auch die Verteidigungsseite von KI, etwa wenn Sicherheitsunternehmen damit Angriffe schneller erkennen und Schwachstellen früher aufspüren. Der Wettlauf verläuft künftig zunehmend zwischen KI-gestützten Angreifern und KI-gestützten Verteidigern.

 

Datenschutzrechtliche Einordnung

Auch wenn der Vorfall zunächst ein IT-Sicherheitsthema ist, hat er unmittelbare Berührungspunkte zum Datenschutzrecht:

• Technische und organisatorische Maßnahmen (Art. 32 DSGVO): Unternehmen sind verpflichtet, ein dem Risiko angemessenes Schutzniveau sicherzustellen. Die zunehmende Professionalisierung und Automatisierung von Angriffen durch KI erhöht das Risikoniveau – und damit auch die Anforderungen an bestehende Schutzkonzepte.
• Meldepflichten bei Datenschutzverletzungen (Art. 33, 34 DSGVO): Führt ein KI-gestützter Angriff zu einem tatsächlichen Zugriff auf personenbezogene Daten, greifen die üblichen Melde- und Dokumentationspflichten gegenüber Aufsichtsbehörde und ggf. betroffenen Personen – mit den bekannten engen Fristen.
• Eigene KI-Agenten und Auftragsverarbeitung: Wer selbst KI-Systeme einsetzt, die auf personenbezogene Daten zugreifen können, sollte prüfen, ob eine Auftragsverarbeitung vorliegt, welche Rechte diese Systeme tatsächlich benötigen und wie ihr Handeln nachvollziehbar dokumentiert wird.
• Rechenschaftspflicht (Art. 5 Abs. 2 DSGVO): Im Ernstfall belegen zu können, dass geeignete Schutzmaßnahmen getroffen wurden, gewinnt angesichts KI-gestützter Angriffe zusätzlich an Bedeutung.

Es empfiehlt sich, bestehende Verzeichnisse von Verarbeitungstätigkeiten sowie Risikoanalysen im Lichte dieser Entwicklung zu überprüfen und – soweit noch nicht geschehen – den Einsatz von KI-Systemen im eigenen Unternehmen datenschutzrechtlich sauber zu erfassen.

 

Konkrete Handlungsempfehlungen für Unternehmen

Technische und organisatorische Basics bleiben entscheidend:

• Systeme und Software konsequent aktuell halten (Patch-Management), damit bekannte Schwachstellen zeitnah geschlossen werden
• Zugriffsrechte konsequent auf das notwendige Minimum begrenzen („Need-to-know“-Prinzip)
• Netzwerke stärker segmentieren, um die Ausbreitung eines Angreifers im Ernstfall frühzeitig einzudämmen
• Regelmäßige Backups und deren Wiederherstellbarkeit testen
• Protokollierung und Monitoring ausbauen, um ungewöhnliches Verhalten frühzeitig zu erkennen

Beim eigenen Einsatz von KI-Agenten:

• KI-Systeme sollten ausschließlich die Rechte erhalten, die für ihre konkrete Aufgabe tatsächlich erforderlich sind
• Ein System zur reinen Informationssammlung braucht keinen automatischen Zugriff auf vertrauliche Dokumente oder die Möglichkeit, eigenständig Zahlungen auszulösen
• Kritische Aktionen – etwa Löschvorgänge, Veröffentlichungen oder finanzielle Transaktionen – sollten weiterhin durch einen Menschen bestätigt werden („Human-in-the-loop“)
• Regelmäßige Überprüfung, welche KI-Tools im Unternehmen tatsächlich im Einsatz sind (Stichwort „Schatten-KI“) und mit welchen Berechtigungen diese ausgestattet sind
• Klare interne Richtlinien für den Umgang mit KI-Anwendungen, insbesondere im Zusammenspiel mit vertraulichen oder personenbezogenen Daten

Für Mitarbeitende – auch privat relevant:

• Automatische Updates aktivieren
• Sichere, individuelle Passwörter verwenden
• Zwei-Faktor-Authentifizierung konsequent einsetzen
• Besondere Vorsicht bei unerwarteten Nachrichten – KI macht auch Betrugsversuche wie Phishing-Mails oder CEO-Fraud überzeugender und schwerer erkennbar

 

Fazit

Der Vorfall bei OpenAI ist kein Grund zur Panik, aber ein deutliches Signal, das ernst zu nehmen ist. Die entscheidende Frage lautet nicht mehr, ob KI im Cyberraum eine Rolle spielt, sondern wer schneller ist: Angreifer, die KI missbrauchen, oder Unternehmen, die sich rechtzeitig und strukturiert absichern.

Gerade für kleinere und mittlere Unternehmen, die oft nicht über eine eigene große IT-Sicherheitsabteilung verfügen, empfiehlt sich ein zweigleisiges Vorgehen:

1. Kurzfristig: Bestehende Basis-Schutzmaßnahmen – Updates, Zugriffsrechte, Zwei-Faktor-Authentifizierung, Backups – überprüfen und Lücken schließen.
2. Mittelfristig: Den eigenen Einsatz von KI-Systemen – ob im Kundenservice, in der Verwaltung oder in der Softwareentwicklung – systematisch erfassen, datenschutzrechtlich bewerten und mit klaren Berechtigungskonzepten versehen.

Sie möchten wissen, wie es um die technischen und organisatorischen Maßnahmen sowie den KI-Einsatz in Ihrem Unternehmen steht?

Wir unterstützen Sie gerne dabei, Ihre Prozesse an die aktuelle Bedrohungslage anzupassen und den Einsatz von KI-Anwendungen datenschutzkonform aufzustellen. Kontaktieren Sie uns für eine individuelle Beratung.