Navázali jsme na vstup vládního zmocněnce pro AI Jana Kavalírka, který měl v rámci konference v Mikulově, a povídali si s ním o aktuální situaci kolem umělé inteligence. Samozřejmě nás zajímalo především to, jak vypadá současný stav výběru na realizaci Gigafaktory?

 

V současnosti se intenzivně věnujeme přípravě naší národní přihlášky. Zřídili jsme si koordinační radu pro AIGF, která se pravidelně schází a koordinuje přípravu napříč státní správou, výzkumnou sférou i soukromým sektorem. Nyní připravujeme první materiál pro vládu, jehož cílem je schválit mandát pro přihlášku České republiky, deklarovat státní podporu tohoto strategického projektu a současně dát úkol našemu ministerstvu rozpracovat projekt a navrhnout jeho financování. Strategicky pak zvažujeme i sektorovou specializaci AI Gigafactory – například směrem k obraně, kybernetické bezpečnosti či využití vesmírných dat.

 

Kromě toho intenzivně jednáme jak doma – zejména o zajištění národního financování a České radiokomunikaci o privátním financování – tak i na evropské úrovni s jednotlivými členskými státy a Evropskou komisí o podpoře.

 

Jsme jedni z 16 předložených projektů, dá se tedy nyní odhadovat, jaké jsou naše současné naděje na úspěch?

 

Velmi dobré. Náš projekt má několik silných stránek, zejména ve výhodné lokalitě, rozvinuté domácí AI scéně a míře připravenosti, resp. schopnosti AI Gifactory rychle realizovat. Datacentrum Prague Gateway, ze kterého by se superpočítač rozšiřoval, se již dokonce začalo stavět.

 

Zároveň máme velmi dobrou strategii. Navrhujeme vznik jedné společné AI Gigafactory pro celý region střední a východní Evropy (CEE), na které jsme připraveni spolupracovat s ostatními státy v regionu. Tento návrh jsme oficiálně představili Evropské komisi na jednání s vedením DG Connect 2. září v Bruselu. Komise tuto možnost výslovně schválila a vítá ji i z hlediska geografické vyváženosti v rámci EU.

 

Proto již nyní aktivně jednáme s dalšími členskými státy a náš návrh na spolupráci jsme oficiálně zaslali Polsku a v průběhu října bychom se měli na toto téma setkat. Do jednání obecně dáváme velké úsilí.

 

Co by konkrétně pro nás takový krok znamenal jak po stránce nároků, tak přínosů?

 

Zřízení AI Gigafactory s tak mimořádným výpočetním výkonem by pro nás znamenalo zásadní přelom v našem postavení v oblasti digitálních technologií a umělé inteligence. Umožnilo by to trénovat AI modely s biliony parametrů, aplikovatelné ve zdravotnictví, školství, energetice, obraně i eGovernmentu. AI Gigafactory by znamenala obrovský rozvoj výzkumného potenciálu v AI i dalších oborech, přilákala ty nejlepší talenty a vědce z celé Unie a stala se i zároveň katalyzátorem rozvoje startupového a inovačního ekosystému, který kolem ní vznikne. Bude to mít pozitivní ekonomické dopady nejen na AI ekosystém, ale celý český průmysl.

 

V Mikulově jsme hodně mluvili o určité roztříštěnosti informací, jak a kde správně používat AI v rámci veřejné správy. Je reálná představa nějakého „centrálního“ školení zaměstnanců VS, nikoli aby získali informace o AI samotné, ale o tom, jak a do jaké míry ji ve VS používat (které kroky ano, které ne)?

 

Ano, tato představa je nejen reálná, ale konkrétně připravovaná jako jeden z klíčových kroků naší národní strategie. Ve spolupráci s námi, Univerzitou Karlovou, Českou asociací umělé inteligence a společností Microsoft se pod Úřadem vlády připravuje projekt s názvem AI National Skilling Plan. Jeho cílem je nabídnout online školení pro všechny zaměstnance veřejné správy – nejen o tom, co je umělá inteligence, ale především jak ji smysluplně a bezpečně využívat v každodenní agendě veřejné správy. Tento projekt má ambici stát se centrálním bodem digitalizačního vzdělávání státu v oblasti AI a jeho spuštění plánujeme na podzim roku 2025.

 

Zvažuje stát třeba vytvoření AI laboratoře pro kvalitní testování a analytické práce nad návrhy řešení nástrojů pro práci státního sektoru v prostředí AI?

 

Nad co nejefektivnější spoluprací jednotlivých ministerstev v oblasti AI jsme vedli mnoho debat. Ministerstva jsou odlišná, každé má jiné agendy, datové zdroje i technickou připravenost, a tedy i různé potřeby při nasazení AI. Není tedy vhodné nasazovat stejný AI systém na sílu všude. Co ale má velký smysl, je jistě lepší koordinace, sdílení zkušeností a podpora vzájemné inspirace napříč institucemi. I proto jsme si založili pracovní skupinu Grémium AI ve veřejné správě, kterou koordinuje ministerstvo vnitra.

 

Velmi užitečná je například nová databáze případů využití AI ve veřejné správě, kterou spustila Digitální informační agentura na adrese egovai.dia.gov.cz. Už nyní obsahuje desítky konkrétních AI use cases a její cílem je ukazovat, co už funguje a motivovat ostatní. Podobnou iniciativu připravuje rovněž prg.ai i pro soukromý sektor.

 

Z naší debaty vzešel i určitý problém nakládání s AI. Je v možnostech zaměstnavatele nějakým způsobem kontrolovat, jak vlastní zaměstnanci využívají AI (a to v pozitivním i negativním smyslu – zaměstnanec si tak může zefektivnit práci, ale mohl by i ohrozit výstup úřadu)?

 

Je nezbytné vytvářet prostředí, kde se o využívání umělé inteligence otevřeně a zodpovědně komunikuje a zaměstnanci nemají obavu zaměstnavatele na rovinu informovat. Dnes je již nepochybné, že umělá inteligence může zaměstnancům významně usnadnit práci, zejména při zpracování velkého objemu dat, běžné administrativě či přípravě podkladů. Chceme, aby se AI stala běžnou a přirozenou součástí státní agendy, protože její přínos pro zvýšení efektivity je jednoznačný. Zároveň je však potřeba mít přehled o tom, jaké nástroje zaměstnanci používají a nastavit pravidla jejich využívání tak, aby nedocházelo zejména k úniku dat.

 

Používání volně dostupných online AI velkých jazykových modelů s sebou samozřejmě nese riziko úniku dat do zahraničí. I proto vláda, po konzultaci s NÚKIB, zakázala využívání nástroje DeepSeek ve státní správě, kde byla rizika nadmíru vysoká. Pokud chceme, aby AI pracovala s citlivými nebo neveřejnými daty, musíme implementovat řešení, která tato data neodesílají mimo systém. V této souvislosti jsou samozřejmě na místě i strategické debaty o vytvoření vlastního českého jazykového AI modelu, který by zajistil bezpečné, transparentní a efektivní využívání umělé inteligence ve veřejném sektoru.

 

Jak vnímáte zařazení AI do bezpečnostních dohledových nástrojů (fyzická bezpečnost – CCTV) včetně integrace s městskou policií? Mělo by v tomto směru existovat nějaké rozčlenění AI a jejího nasazení do VS?

 

Využití umělé inteligence v oblasti fyzického dohledu, například v kamerových systémech ve veřejném prostoru, musí probíhat v přísném souladu s evropskou legislativou. AI Act v článku 5 výslovně zakazuje použití systémů biometrické identifikace na dálku v reálném čase ve veřejně přístupných prostorech pro účely vymáhání práva, s výjimkou několika přesně vymezených situací – například při cíleném vyhledávání obětí únosů, při prevenci bezprostředního teroristického útoku, nebo při identifikaci osob již podezřelých ze závažných trestných činů.

 

Osobně mám za to, že článek 5 a zakázané systémy AI jsou dobře nastaveny a je nezbytné respektovat rozčlenění AI systémů na základě rizika a s ohledem na lidská práva a ochranu soukromí. V rámci uvedených výjimek, které jsem zmínil, mám však za to, že je využití AI systémů pro zajištění vyšší bezpečnosti našich obyvatel přínosné.

 

Neuvažuje stát o vytvoření konsorcia ověřených dodavatelů AI v rámci kterého bude garantována bezpečnost dat a práce s AI především pro oblast veřejných zakázek?

 

Určitě zvažujeme, jak podpořit bezpečné a důvěryhodné nasazení AI ve veřejné správě. Inspirací mohou být osvědčené modely z jiných oblastí, přičemž v oblasti AI by mohlo dávat smysl začít formou katalogu „compliance-ready“ dodavatelů, kteří splňují jasná kritéria v oblasti bezpečnosti dat a souladu s legislativou včetně AI Act. Takový nástroj by samozřejmě usnadnil orientaci a výběr důvěryhodných řešení pro státní správu.

 

Výstup z naší debaty na konferenci byl zřejmý, nemluvíme už o tom, jestli AI ve veřejné správě ano či ne, ale o tom, kde a jak. Jaké jsou podle Vás základní oblasti – činnosti, ve kterých by měla VS AI už nyní využívat? Případně Váš odhad dalšího vývoje?

Nasazení umělé inteligence ve veřejné správě by vždy měla předcházet kvalitní data a procesy a následně digitalizace. AI systém je až konec řešení. Současně by AI neměla být jen formálním cílem, ale nástrojem, který řeší konkrétní úlohu a je za jejím použitím skutečný přínos, skutečný use case.

Už dnes vidíme první úspěšné příklady – na MPSV vytvořili systém Jenda, na Ministerstvu financí AI chatbot Adam pro grantovou agendu a na MPO připravujeme AI asistenta pro portál živnostenského podnikání. Nyní se připravují například nástroje pro zpracování žádostí podle zákona 106 na Úřadu vlády, kontrolu veřejných zakázek a automatizaci tvorby zadávací dokumentace na MMR, nebo třeba podporu rozhodování v agendě přestupků na vnitru. Jako strategický cíl pak vidím jednotný kontaktní portál veřejné správy vybavený AI nástroji, které občanům usnadní navigaci ve všech veřejných agendách a službách státu.