A BRÁNA SE OTEVÍRÁ ...
Je to sen mnoha generací. Po desetiletí, možná po staletí řada vědců, učenců, badatelů, zvědavců či šarlatánů touží po tom nalézt bránu do jiné dimenze. Nějaký otvor v časoprostoru, trhlinu, nebo něco takového, kudy se dá prostoupit do jiné dimenze. A nám, tedy alespoň úřadům veřejné správy, se teď taková brána pomalu otevírá. Brána k AI, brána do dimenze světa prodchnutého umělou inteligencí. Jen ještě úplně nevíme, jak ta brána vypadá a co nás přesně za ní čeká.
Na konferenci e-government 20:10 na zámku Mikulov na toto téma hovořili první náměstek ministra vnitra a vládní zmocněnec pro digitalizaci a strategickou bezpečnost Lukáš Klučka, vládní zmocněnec pro AI Lukáš Kačena a místopředseda RVIS Adam Paclt. Umělá inteligence podle nich nesmí zůstat souborem nespojených experimentů, je nutné spojit technologie s jasným řízením, odpovědností a měřitelným přínosem. A právě to je důvodem, proč by stát měl vytvořit AI a LLM bránu, tedy bezpečný a hospodárný přístup k jazykovým modelům.
O tom, že AI „vtrhla“ i do veřejné správy není pochyb, ale právě s ohledem na data, se kterými veřejná správa pracuje, i na skutečnost, že se jedná o veřejné finanční prostředky, je třeba tuto živelnost korigovat. Nová strategie vlády Digitální Česko 2.0, o které rovněž na konferenci pánové hovořili, je postavena na propojení jednotlivých dat, služeb i odpovědností do jednoho funkčního celku. Každý strategický projekt zde má mít svého konkrétního vlastníka, ověřenou potřebu, měřitelné milníky a transparentně řízené náklady, vazby a rizika. I proto je potřeba budovat společnou AI infrastrukturu. Místo desítek oddělených AI řešení by měla být takto nabídnuta úřadům důvěryhodná cesta k jazykovým modelům. Tímto nástrojem by měla být Národní AI brána, která bude ověřovat oprávnění konkrétního uživatele, chránit osobní a citlivé údaje a zvolí model, který odpovídá dané úloze a následně výsledek předá zpět úřadu. Každý z těchto kroků přitom za sebou zanechá kontrolovatelnou auditní stopu.
CO BY MĚLA NÁRODNÍ AI A LLM BRÁNA ZAJIŠŤOVAT?
- Řízený přístup k modelům – zpřístupní více komerčních i otevřených modelů a požadavky bude směrovat podle citlivosti dat, ceny, rychlosti a ověřené kvality.
- Ochranu osobních a citlivých údajů – před odesláním dotazu musí systém kontrolovat či anonymizovat obsah a zabránit předání neveřejných informací do nevhodného prostředí.
- Auditní stopu a odpovědnost – bude vždy možné doložit, jaký model byl použit, s jakým zadáním a výsledkem. Otevřený reporting a dohledatelnost jsou podmínkou důvěry.
- Kontrolu nákladů a spotřeby – centrální měření umožní sledovat využití napříč resorty, řídit limity a hospodařit lépe než při roztříštěných nákupech.
- Bezpečnostní a kvalitativní kontroly – bude filtrovat rizikové vstupy, testovat výstupy, řídit oprávnění a nabízet prověřené postupy pro opakované úřední činnosti.
- Technologickou nezávislost – společná rozhraní oddělí úřední aplikace od konkrétního modelu, aby stát mohl reagovat na změny ceny, výkonu i bezpečnostního profilu bez nákladné přestavby služeb.
PROČ?
Digitalizaci a strategickou bezpečnost nelze řídit odděleně. S rostoucím využíváním AI roste význam toho, kde jsou data uložena, kdo k nim přistupuje a jak lze celý proces zpětně prověřit. Pro některé agendy může být přijatelné využití veřejného cloudu, jiné budou vyžadovat důvěryhodné nebo přímo státem kontrolované prostředí. Gateway proto musí uplatňovat pravidla podle klasifikace dat a rizika, nikoli podle pohodlí uživatele. Současně musí posilovat odolnost vůči kybernetickým útokům, manipulaci vstupů i selhání dodavatelského řetězce.
JAK?
Důvěra nevzniká nálepkou „národní“. Vzniká pravidelným bezpečnostním testováním, hodnocením kvality modelů v češtině, řízením verzí, jasnými pravidly pro uchovávání záznamů a kontrolou dopadů. Potřebujeme postupy pro incidenty i možnost rychle odstavit problémový model, datový zdroj nebo scénář použití. Osobní odpovědnost konkrétního manažera, průběžný reporting a přehled o rizicích budou u této infrastruktury stejně důležité jako její technické parametry.
Každé využití AI zároveň bude zařazeno do standardního řízení Digitálního Česka 2.0. Musí mít jmenovaného garanta, předem stanovené ukazatele přínosu a pravidelně zveřejňovaný stav. Společná pravidla však neznamenají uzavření trhu. Naopak cílem je udržet možnost volit mezi různými modely a dodavateli. Stát má vlastnit standardy, rozhraní a kontrolní mechanismy, nikoli být trvale připoután k jedné technologii.
KDE MŮŽEME AI BRÁNU NAJÍT?
A kde je ona brána, která nám pootvírá vstup do nové dimenze, do dimenze účinné, bezpečné a podmaněné AI? Zatím nikde. Nejprve musí být otestována beta verze. K plošnému spuštění pro všechny úřady by mělo, s ohledem na výsledky testování, dojít v průběhu prvního čtvrtletí roku 2027. Pokud chcete vědět, kdy a za jakých podmínek budete moci do brány „vstoupit“, tedy ji začít využívat, bližší informace by vám měly být k dispozici tzv. AI officery nebo prostřednictvím kanálu AI.gov.cz. Můžete podle toho zvažovat svou vlastní strategii dalšího rozvoje úřadu pomocí nástrojů AI.
JAKÝ BUDE POSTUP?
- Začne se na agendách s vysokým objemem rutinní práce a nízkým rizikem nevratného rozhodnutí.
- Pro každý scénář bude určen vlastník, právní základ, povolené zdroje dat, metriky kvality a roli lidské kontroly.
- Oddělí se experimentální prostředí od produkčního.
- Zavede se jednotné testování faktické správnosti, bezpečnosti a odolnosti proti manipulaci.
- Rozvíjení kompetencí úředníků souběžně s technologií; bez schopnosti ověřovat výstupy se rychlost snadno změní v nové riziko.
Národní AI brána jako součást Digitálního Česka 2.0
Mikulovská diskuse potvrdila, že už se nemáme ptát, zda stát bude AI používat, ale jak ji zavede odpovědně a ve velkém. Národní AI a LLM Gateway může být praktickým základem této změny: omezí duplicity, ochrání data, zprůhlední náklady a umožní přenášet úspěšná řešení mezi úřady. Především ale zapadá do pojetí Digitálního Česka 2.0 – digitálního státu řízeného podle dat a faktů, s jasnými prioritami a odpovědností za výsledek. Úspěch nebude měřen počtem připojených modelů či dotazů. Bude měřen tím, zda občan vyřídí svou věc rychleji a srozumitelněji, zda úředník získá lepší nástroje a zda stát zůstane bezpečný a odolný.
-red-