OVĚŘITELNÉ KONTROLY AI VE VEŘEJNÉ SPRÁVĚ
Při nasazování AI ve veřejné správě je třeba určit, k čemu služba slouží, kdo za ni odpovídá a jak se ověří její ochranná opatření. DATERA tento přístup představila na mikulovské konferenci e-government 20:10. Kontrolní část pak rozvíjí v platformě ReguAudit AI.
Výběr technologie podle konkrétní agendy
Před výběrem technologie je třeba určit, co má AI zlepšit, z jakých dat smí čerpat, kdo ověřuje její výstupy a kdo za službu odpovídá. Podle toho se volí cloud, vlastní prostředí, nebo jejich kombinace.
DATERA na konferenci představila interní asistentku IrčA pro Finanční správu ČR, která pracuje s interními dokumenty a uvádí zdroje odpovědí. V konceptu „AI Pomoc s Daněmi“ ukázala, jak může AI připravit podklady pro daňové přiznání, které občan zkontroluje a potvrdí. V obou případech je třeba navrhnout jak postup, tak i lidský dohled.
Od pravidel k ověřitelnému výsledku
Interní pravidla určují, jak má úřad AI používat, sama o sobě však neukážou, jak služba funguje v praxi. DATERA proto rozvíjí ReguAudit AI pro ověřování přijatých opatření a doložení výsledků.
Vedení úřadu potřebuje znát otevřená rizika a rozhodnout o nápravě. Vývojový a bezpečnostní tým oba potřebují vědět, zda přijatá opatření obstála při ověření. ReguAudit AI poskytuje těmto týmům společný podklad.
Výsledkem je technicky podložená zpráva pro audit – s jasně vymezeným rozsahem a závěry. Poskytuje základ pro rozhodnutí o dalších krocích.
Rozsah hodnocení se vždy přizpůsobuje konkrétnímu využití AI a specifickým požadavkům organizace.
Hodnotit službu v jejím kontextu
Úřad nezavádí jen jazykový model, ale službu pro konkrétní uživatele a agendu. Záleží tedy na zamýšleném použití, datech, odpovědnosti za rozhodnutí i provozním prostředí. Ověření proto musí vycházet z výsledné služby a jejího účelu.
ReguAudit AI pomáhá doložit, jak služba v dohodnutém rozsahu obstála vůči vybraným požadavkům na bezpečnost a odpovědný provoz. Výstup pomáhá určit, které oblasti upravit před nasazením a které sledovat v provozu. Rozsah posouzení se odvíjí od rizik konkrétní agendy.
Změna dat, funkcí nebo prostředí může změnit i rizika služby. Úřad proto potřebuje podklady pro rozhodnutí, zda dosavadní opatření stále odpovídají aktuálnímu stavu.
Co technické testy dokládají
Povinnosti podle AI Actu závisejí mimo jiné na účelu a rizikové kategorii systému i na roli organizace. Technické ověření může doložit chování služby ve vymezeném rozsahu a podpořit řízení rizik. Samo o sobě nepotvrzuje právní soulad; ten totiž vyžaduje také právní a organizační posouzení.
Pilot nad jednou agendou
Workshop nad jednou agendou může vymezit očekávaný přínos, vstupní data, odpovědnost za výstupy a způsob ověření. Na tomto základě lze zvolit prostředí a navrhnout pilotní službu s průběžnou kontrolou.
Walter Pavliš,
Business Development Manager,
DATERA
Kontakt: info@datera.cz