OpenAI ist auf ein Problem gestoßen, das jedes Unternehmen betreffen kann, das mit KI arbeitet
Der Sicherheitsvorfall bei OpenAI betraf nicht die Modelle selbst, sondern die Infrastruktur für ihre Tests. KI-Sicherheit beruht auf dem gesamten Ökosystem aus Diensten, Identitäten und Integrationen.
Als OpenAI im Juli Informationen zu einem Sicherheitsvorfall veröffentlichte, der die Umgebung zur Bewertung von KI-Modellen auf der Plattform Hugging Face betraf, handelte es sich weder um eine Kompromittierung der Modelle selbst noch der ChatGPT-Dienste. Der Vorfall betraf die Infrastruktur, die bei ihrem Testen und Benchmarking verwendet wird.
Hugging Face ist eine Plattform, auf der Entwickler KI-Modelle, Datensätze sowie Werkzeuge für deren Entwicklung und Auswertung teilen. In vielen Organisationen ist sie ein üblicher Bestandteil des Entwicklungsökosystems. OpenAI nutzte sie unter anderem bei der Bewertung der Leistung einiger Modelle.
Das Ereignis hat gezeigt, dass KI-Sicherheit nicht allein auf dem Modell beruht. Dieselbe Aufmerksamkeit verdienen alle Dienste, die an seiner Entwicklung, seinem Testen oder seinem Betrieb beteiligt sind. Je mehr externe Plattformen, APIs und automatisierte Prozesse eine Organisation einbindet, desto schwieriger ist es, den Überblick darüber zu behalten, wer worauf Zugriff hat, wie die einzelnen Dienste miteinander kommunizieren und wo Schwachstellen entstehen können.
KI verändert die Gestalt der Unternehmensinfrastruktur
In den meisten Organisationen wird KI nicht als eigenständiges System aufgebaut. Neue Dienste werden mit der bestehenden Architektur, mit der Unternehmensidentität, Data Warehouses, Cloud-Diensten, CI/CD-Pipelines, Monitoring-Werkzeugen oder internen Anwendungen verbunden.
Gleichzeitig kommen weitere Schichten hinzu. Modell-Repositorys, Dienste für deren Training und Bewertung, Vektordatenbanken, APIs für den Zugriff auf Modelle oder Werkzeuge zur Orchestrierung von KI-Workflows. Jede dieser Komponenten hat eine eigene Konfiguration, eigene Berechtigungen und eine eigene Kommunikationsschnittstelle. Ohne zentrale Verwaltung wird die Umgebung schnell unübersichtlich.
Die schwächste Stelle liegt meist nicht dort, wo die meisten sie suchen
Die Diskussion rund um KI konzentriert sich häufig auf Datenschutz, Modellqualität oder das Risiko von Halluzinationen. Der Vorfall bei OpenAI zeigte ein anderes Szenario.
Der Angreifer missbrauchte weder das Modell noch seine Ausgaben. Ziel war die Infrastruktur, die beim Benchmarking von Modellen auf der Plattform Hugging Face genutzt wird. Benchmarking dient dem Vergleich von Modellen, der Messung ihrer Leistung und der Überprüfung der Ergebnisse vor der Inbetriebnahme. Auch dieser Teil der Entwicklungskette arbeitet mit Zugangsdaten, automatisierten Prozessen und externen Diensten. Versagt eine dieser Schichten, kann das gesamte Ökosystem gefährdet sein, obwohl das Modell selbst korrekt funktioniert.
Dasselbe Prinzip gilt auch im Unternehmensumfeld.
KI-Sicherheit beruht auf denselben Prinzipien wie der Rest der IT
KI bringt keine völlig neuen Sicherheitsdisziplinen mit sich, verändert aber deren Umfang.
Organisationen müssen eine größere Zahl von Identitäten, APIs, Integrationsverbindungen und Diensten Dritter absichern als bei traditionellen Anwendungen. An Bedeutung gewinnen die Verwaltung von Maschinenidentitäten, der Schutz von Zugriffstoken oder die Kontrolle der Kommunikation zwischen den einzelnen Systemen. Es handelt sich um bekannte Sicherheitsprinzipien, die bei KI in größerem Maßstab und in einer komplexeren Architektur zur Anwendung kommen.
Komplexere Infrastruktur erfordert bessere Verwaltung
Viele Organisationen führen KI in Umgebungen ein, die über viele Jahre gewachsen sind. Neben den ursprünglichen Anwendungen kommen neue Cloud-Dienste, KI-Plattformen, Integrationsschichten und automatisierte Prozesse hinzu. Jeder neue Dienst bringt weitere Konten, Zugriffsschlüssel, Netzwerkkommunikation oder eine Abhängigkeit von einem externen Anbieter mit sich.
Fehlen eine einheitliche Identitätsverwaltung, ein Überblick über die Integrationsverbindungen oder eine standardisierte Art der Konfiguration der einzelnen Systeme, wächst die Komplexität der gesamten Umgebung. In einer solchen Situation ist es deutlich schwieriger, einen Sicherheitsvorfall zu erkennen, seinen Umfang zu bestimmen oder seine Ausbreitung schnell einzudämmen.
Wie wir bei Devcity damit umgehen
Mit der Stabilisierung und Modernisierung von IT-Infrastruktur haben wir Erfahrung aus Projekten für tschechische und internationale Organisationen. Unabhängig von ihrer Größe wiederholen sich ähnliche Herausforderungen: eine komplexe Architektur, eine wachsende Zahl von Integrationsverbindungen oder eine uneinheitliche Verwaltung von Identitäten und Zugriffen.
Bei der Stabilisierung der Infrastruktur konzentrieren wir uns deshalb auf Bereiche, die langfristig sowohl die Sicherheit als auch die Verwaltung der Umgebung beeinflussen. Dazu gehören die Steuerung von Identitäten und Berechtigungen, die Standardisierung von Konfigurationen, Monitoring, Änderungsmanagement oder der Überblick über Abhängigkeiten zwischen Systemen.
Das Ergebnis ist nicht nur eine besser organisierte Infrastruktur. Die Organisation erhält eine Umgebung, in der neue Technologien sicherer eingeführt werden können und in der schneller auf Veränderungen und Sicherheitsvorfälle reagiert werden kann.
