OpenAI narazila na problém, ktorý sa môže týkať každej firmy, ktorá pracuje s AI
Bezpečnostný incident v OpenAI nezasiahol samotné modely, ale infraštruktúru používanú pri ich testovaní. Bezpečnosť AI stojí na celom ekosystéme služieb, identít a integrácií.
Keď OpenAI v júli zverejnila informácie o bezpečnostnom incidente spojenom s prostredím na hodnotenie AI modelov na platforme Hugging Face, nešlo o kompromitáciu samotných modelov ani služieb ChatGPT. Incident zasiahol infraštruktúru používanú pri ich testovaní a benchmarkingu.
Hugging Face je platforma, na ktorej vývojári zdieľajú AI modely, dátové sady aj nástroje na ich vývoj a vyhodnocovanie. V mnohých organizáciách predstavuje bežnú súčasť vývojového ekosystému. OpenAI ju využívala okrem iného pri hodnotení výkonu niektorých modelov.
Udalosť ukázala, že bezpečnosť AI nestojí len na samotnom modeli. Rovnakú pozornosť si zaslúžia všetky služby, ktoré sa podieľajú na jeho vývoji, testovaní alebo prevádzke. Čím viac externých platforiem, API a automatizovaných procesov organizácia zapojí, tým zložitejšie je udržať prehľad o tom, kto má kam prístup, ako medzi sebou jednotlivé služby komunikujú a kde môžu vzniknúť slabé miesta.
AI mení podobu podnikovej infraštruktúry
Vo väčšine organizácií sa AI nestavia ako samostatný systém. Nové služby sa prepájajú s existujúcou architektúrou, s firemnou identitou, dátovými skladmi, cloudovými službami, CI/CD pipeline, monitorovacími nástrojmi alebo internými aplikáciami.
Súčasne pribúdajú ďalšie vrstvy. Repozitáre modelov, služby na ich trénovanie a hodnotenie, vektorové databázy, API na prístup k modelom alebo nástroje na orchestráciu AI workflow. Každý z týchto komponentov má vlastnú konfiguráciu, oprávnenia aj komunikačné rozhranie. Bez centrálnej správy sa prostredie rýchlo stáva neprehľadným.
Najslabšie miesto nebýva tam, kde ho väčšina hľadá
Diskusie okolo AI sa často sústreďujú na ochranu dát, kvalitu modelov alebo riziko halucinácií. Incident OpenAI ukázal iný scenár.
Útočník nezneužil model ani jeho výstupy. Cieľom bola infraštruktúra využívaná pri benchmarkingu modelov na platforme Hugging Face. Benchmarking slúži na porovnávanie modelov, meranie ich výkonu a overovanie výsledkov pred nasadením. Aj táto časť vývojového reťazca pracuje s prístupovými údajmi, automatizovanými procesmi a externými službami. Ak niektorá z týchto vrstiev zlyhá, môže ohroziť celý ekosystém, hoci samotný model funguje správne.
Rovnaký princíp platí aj v podnikovom prostredí.
Bezpečnosť AI stojí na rovnakých princípoch ako zvyšok IT
AI neprináša úplne nové bezpečnostné disciplíny, ale mení ich rozsah.
Organizácie musia zabezpečiť väčší počet identít, API, integračných väzieb a služieb tretích strán než pri tradičných aplikáciách. Význam získava správa strojových identít, ochrana prístupových tokenov alebo kontrola komunikácie medzi jednotlivými systémami. Ide o známe bezpečnostné princípy, ktoré sa pri AI uplatňujú vo väčšom rozsahu a v zložitejšej architektúre.
Zložitejšia infraštruktúra vyžaduje lepšiu správu
Mnohé organizácie zavádzajú AI do prostredia, ktoré vznikalo mnoho rokov. Popri pôvodných aplikáciách pribúdajú nové cloudové služby, AI platformy, integračné vrstvy a automatizované procesy. Každá nová služba prináša ďalšie účty, prístupové kľúče, sieťovú komunikáciu alebo závislosť od externého dodávateľa.
Ak chýba jednotná správa identít, prehľad o integračných väzbách alebo štandardizovaný spôsob konfigurácie jednotlivých systémov, rastie zložitosť celého prostredia. V takej situácii býva výrazne ťažšie odhaliť bezpečnostný incident, určiť jeho rozsah alebo rýchlo obmedziť jeho šírenie.
Ako k tomu pristupujeme v Devcity
So stabilizáciou a modernizáciou IT infraštruktúry máme skúsenosti z projektov pre české aj zahraničné organizácie. Bez ohľadu na ich veľkosť sa opakujú podobné výzvy, zložitá architektúra, rastúci počet integračných väzieb alebo nejednotná správa identít a prístupov.
Pri stabilizácii infraštruktúry sa preto zameriavame na oblasti, ktoré majú dlhodobý vplyv na bezpečnosť aj správu prostredia. Patria medzi ne riadenie identít a oprávnení, štandardizácia konfigurácií, monitoring, riadenie zmien alebo prehľad o závislostiach medzi systémami.
Výsledkom nie je len lepšie usporiadaná infraštruktúra. Organizácia získava prostredie, v ktorom možno bezpečnejšie zavádzať nové technológie a rýchlejšie reagovať na zmeny aj bezpečnostné incidenty.
