Když Elon Musk na začátku roku představil Grok-3 jako nejchytřejšího chatbota na planetě, málokdo čekal, že se tento ambiciózní AI model stane středobodem jednoho z nejzávažnějších bezpečnostních incidentů v historii generativní umělé inteligence. Německý technologický server Heise nyní přinesl podrobnou zprávu o tom, jak aktualizace modelu Grok-3 způsobila únik citlivých firemních dat u několika evropských společností. Incident vyvolal vlnu znepokojení napříč celým kontinentem a evropské regulační úřady zahájily vyšetřování.
Co se vlastně stalo?
Podle dostupných informací došlo k bezpečnostnímu incidentu v souvislosti s nejnovější aktualizací jazykového modelu Grok-3, který provozuje společnost xAI založená Elonem Muskem. Aktualizace, nasazená v průběhu února 2025, obsahovala chybu v mechanismu zpracování a ukládání konverzací, která za specifických podmínek umožnila neautorizovaný přístup k datům jiných uživatelů. Prakticky to znamenalo, že firemní uživatelé, kteří prostřednictvím Groku zpracovávali interní dokumenty, strategické plány nebo personální údaje, mohli neúmyslně odhalit tyto informace třetím stranám. Na portálu 1AI.cz jsme již dříve upozorňovali na rizika spojená s rychlým nasazováním AI modelů bez dostatečného bezpečnostního testování, a tento případ bohužel potvrzuje naše obavy.
Rozsah škod je stále nejasný
Přesný počet postižených firem zatím nebyl oficiálně potvrzen, ale podle zdrojů serveru Heise se jedná minimálně o desítky organizací v Německu, Rakousku a dalších zemích střední Evropy. Mezi postiženými mají být jak malé a střední podniky, tak i větší korporace, které Grok implementovaly do svých interních workflow. Zvláště znepokojivé je, že některé z uniklých dat údajně obsahovaly:
- Interní firemní strategie a obchodní plány
- Personální údaje zaměstnanců včetně platových informací
- Klientské databáze s kontaktními údaji
- Důvěrnou korespondenci mezi managementem
- Technickou dokumentaci a know-how
Tyto informace se v některých případech zobrazovaly v konverzacích zcela nesouvisejících uživatelů, což vyvolalo okamžitý poplach. První hlášení o anomáliích se začala objevovat na německých IT fórech již krátce po nasazení aktualizace, ale trvalo několik dní, než xAI problém oficiálně uznala.
Evropské úřady zahajují vyšetřování
Reakce evropských regulačních orgánů na sebe nenechala dlouho čekat. Německý Spolkový úřad pro ochranu dat (BfDI) zahájil formální vyšetřování incidentu a požádal společnost xAI o kompletní zprávu o rozsahu úniku. Obdobné kroky podnikly i regulační orgány v Irsku, kde sídlí evropská pobočka řady technologických gigantů, a ve Francii, kde se bezpečnostními aspekty AI zabývá tamní úřad CNIL.
Incident přichází v mimořádně citlivou dobu. Evropská unie postupně implementuje nařízení AI Act, které stanovuje přísná pravidla pro provozovatele AI systémů, včetně povinností v oblasti transparentnosti a bezpečnosti. Pokud se potvrdí, že xAI nedodržela dostatečné bezpečnostní standardy při nasazení aktualizace, mohla by společnosti hrozit pokuta až do výše šesti procent z globálního ročního obratu.
Reakce xAI a Elona Muska
Společnost xAI vydala stručné prohlášení, ve kterém incident potvrdila a označila jej za „izolovanou technickou závadu
Sledujte nejnovější AI nástroje a zprávy na 1AI.cz.
