AI A CITLIVÁ DATA VE STÁTNÍ SPRÁVĚ. KUDY VEDE BEZPEČNÁ CESTA?
Nutkání využívat umělou inteligenci tam, kde může člověku ulevit s prací, se neubrání ani zaměstnanci státního sektoru. O to spíš, jsou-li dlouhodobě pod kapacitním tlakem, zavaleni množstvím požadavků, které nestíhají zpracovávat. Jenže když si úředník pomůže veřejně dostupným AI nástrojem na vlastní pěst, citlivá data opouštějí infrastrukturu úřadu bez jakékoliv kontroly. NÚKIB proto spolu s Úřadem vlády vydaly Průvodce pro etické využívání AI ve veřejné správě, Digitální a informační agentura (DIA) spravuje katalog ověřených řešení a úřady postupně nasazují uzavřená prostředí pod licencí velkých poskytovatelů. Pro řadu agend to stačí. Pro všechny ale ne. Co zvážit, než úřad sáhne po konkrétním řešení?
Evropské nařízení o umělé inteligenci (AI Act) od letošního srpna klasifikuje nasazení umělé inteligence ve veřejné správě jako vysoce rizikové. Úřady nyní mají povinnost zajistit, aby při zapojení AI bylo každé rozhodnutí zpětně dohledatelné a vždy ho měl pod kontrolou člověk. A k tomu musí průběžně vyhodnocovat, jaká rizika z nasazení AI plynou.
Odpovědnost neleží jen na úřadech. Také dodavatelům, kteří pro ně AI systémy staví a nasazují, hrozí při nesplnění povinností pokuty až 35 milionů eur nebo 7 % celosvětového obratu. Pro samotné orgány EU stanovuje nařízení strop 1,5 milionu eur, českým úřadům bude výši sankcí určovat národní legislativa. Pokud úřad selže, hrozí mu stažení systému z provozu i reputační škoda, která může být pro instituci horší než jakákoli pokuta.
Největší AI nástroje fungují přes cloud. Co ale s daty, která ven nesmí?
Vedle AI Actu na práci s citlivými daty dopadá GDPR a zákon č. 110/2019 Sb. o ochraně osobních údajů i zákon o kybernetické bezpečnosti ve výkladu NÚKIB. Žádná z těchto informací zkrátka nesmí opustit IT infrastrukturu úřadu bez záruky, že zůstanou chráněné. I proto úřady postupně přecházejí na uzavřená prostředí pod licencí velkých poskytovatelů, jako je například Microsoft.
Tato řešení ale běží na cloudové infrastruktuře třetích stran, která podléhá jurisdikci mimo EU. Kontrola nad zpracováním je omezená a otázka souladu s předpisy se stává přinejmenším nejasnou. Podle odhadu Gartneru přitom do roku 2028 zavede 65 % vlád po celém světě požadavky na technologickou suverenitu právě jako ochranu před vlivem legislativy třetích zemí.
Nejde jen o výběr jazykového modelu
Alternativou k veřejnému cloudu je provoz AI na vlastní infrastruktuře úřadu, takzvané on-premises nasazení. Jenže debaty o něm se příliš rychle zužují na jedinou otázku: který model nasadit? Velký jazykový model (LLM) je přitom jen poslední vrstva mnohem složitějšího celku. Pod ním stojí databáze a aplikace, které úřad již provozuje, nad nimi integrační vrstva, která je propojuje se samotným modelem, a vedle toho řada podpůrných služeb pro práci s daty, jejich vyhledávání a řazení dotazů. Všechny dnes existují i ve variantách pro lokální provoz. Podstatné ale je, aby lokálně běžel celý systém, nejen model samotný.
Pokud se úřad pro lokální nasazení rozhodne, první otázka, na kterou narazí, je GPU paměť. Lokální nasazení vyžaduje fyzický server osazený grafickou kartou o kapacitě minimálně 48 GB, pro produkční provoz s živými uživateli se doporučuje 96 GB. Celý server vychází zhruba na půl milionu korun, což je investice, kterou je třeba poměřovat s tím, co úřad získá, a co riskuje, pokud ji neudělá. S hardwarem pak úzce souvisí škálovatelnost. Lokální systém má fyzický strop daný kapacitou serveru a při špičce dotazů neroste elasticky jako cloud.
Zbavíme se technické závislosti?
Velkým tématem je nyní i volba samotného modelu, protože zdaleka ne každý je pro evropskou veřejnou správu použitelný. Mezi aktuálně nejvhodnější volby pro lokální nasazení patří Gemma 4. Z evropských alternativ pak vyniká francouzský Mistral Large 3, který je plně otevřený pod licencí Apache 2.0, s podporou ve více než 40 jazycích a infrastrukturou provozovanou v EU. V delším horizontu pak stojí za pozornost projekt OpenEuroLLM financovaný Evropskou unií, jehož ambicí je vybudovat vícejazyčné modely pro všech 24 úředních jazyků unie.
Klíčové je nesledovat každou novinku, ale zvolit správnou rodinu modelů. Rozhodující je, zda má odpovídající licenci, dostatečnou historii vývoje a jasný plán do budoucna (tzv. roadmap). Francouzský Mistral i Gemma od Googlu tyto předpoklady dnes splňují. Hardware, který úřad pořídí, nezastarává. Každý rok na něm pouze poběží lepší model než ten předchozí. On-premises nasazení zároveň neznamená, že si úřad vše spravuje sám, ale že musí mít jasně rozdělené role mezi vlastním IT a dodavatelem.
Anonymizace a dohledatelnost
Řízený systém, který AI Act vyžaduje, stojí na dvou pilířích: anonymizaci dat a průkazné auditní stopě. Anonymizace přitom musí fungovat jako vstupní brána před modelem, nikoli jako dodatečný krok. Každý dokument či dotaz, který do systému vstupuje, by měl nejprve projít automatizovanou detekcí citlivých údajů. Do modelu LLM pak už pokračují jen anonymizovaná data, původní údaje zůstávají v zabezpečeném úložišti na infrastruktuře úřadu a model je nikdy neuvidí. Výstup se deanonymizuje teprve na zpáteční cestě, v prostředí pod plnou kontrolou úřadu.
Totéž platí pro dohledatelnost. Systém musí logovat každý vstup a výstup, verzi modelu i čas zpracování, a tyto záznamy musí být uloženy odděleně od produkčního prostředí, v režimu pouze pro čtení, kam provozní tým nemá oprávnění zasahovat. Kontrolní orgán k nim musí mít přístup bez jakéhokoliv zásahu do běžícího provozu.
Co když plně lokální nasazení není možné?
Ne každý úřad disponuje kapacitou provozovat celý stack na vlastních serverech, a bylo by nerealistické to očekávat. Velcí poskytovatelé cloudové infrastruktury AWS, Microsoft Azure i Google Cloud proto nabízejí různé formy takzvaného suverénního EU cloudu s daty fyzicky umístěnými v Evropské unii. Jenže americký CLOUD Act z roku 2018 umožňuje americkým úřadům vyžádat si data od jakéhokoli poskytovatele pod americkou jurisdikcí, bez ohledu na to, kde jsou fyzicky uložena. Evropská komise na to v červnu 2026 reagovala přijetím Cloud and AI Development Act (CADA), který zavádí čtyřúrovňový rámec cloudové suverenity a z nejvyšších úrovní zabezpečení de facto vylučuje poskytovatele podléhající mimoevropské jurisdikci.
Nasazení AI ve veřejné správě není technický projekt. Jsou to rozhodnutí, jejichž dopady se projeví v dalších letech. Úřad přitom nepotřebuje čekat na dokonalé řešení. Potřebuje hlavně zmapovat, co smí kde být, kdo za co ručí a jak celý systém obstojí ve chvíli, kdy se na něj někdo skutečně podívá. Řízená AI pod kontrolou úřadu bude vždy lepší než stínová AI bez dohledu.
Filip Morávek
CEO Easy8, platformy pro řízení projektů a práce