EÚ AI Act v praxi pre samosprávy: riziká, povinnosti a bezpečné nasadzovanie AI

Vzdelávací program vysvetľuje, ako sa nariadenie EÚ o umelej inteligencii (AI Act) premieta do každodennej praxe miest, obcí a ich organizácií. Účastníci pochopia kategórie rizík, roly samosprávy (najmä používateľ/nasaditeľ), čo je zakázané, kedy začínajú platiť jednotlivé povinnosti a ako nastaviť interné pravidlá, obstarávanie, dohľad a dokumentáciu tak, aby sa AI dala využívať užitočne, ale zákonne a bezpečne.

Čo sa naučíte

• Rozlíšiť úrovne rizika AI a zaradiť typické prípady zo samosprávy

• Identifikovať zakázané praktiky a rozpoznať ich v dodávateľských riešeniach

• Porozumieť časovej osi účinnosti povinností a pripraviť sa na ne vopred

• Nastaviť AI governance: zodpovednosti, schvaľovanie use-case, ľudský dohľad, evidencie a incidenty

• Pripraviť „AI-ready“ verejné obstarávanie: požiadavky na dodávateľa, dokumentáciu, auditovateľnosť a prevádzkové záväzky

• Vytvoriť stručný akčný plán implementácie AI Act pre vašu samosprávu

Vstupné požiadavky na zaradenie do vzdelávania

• Práca na úrade/samosprávnej organizácii (manažment, IT, právne, HR, verejné obstarávanie, komunikácia, sociálne služby, mestská polícia, školy v zriaďovateľskej pôsobnosti a pod.)

• Základná orientácia v procesoch samosprávy (schvaľovanie, obstarávanie, správa agend)

• Odporúčané: základný prehľad o GDPR a informačnej bezpečnosti (nie je podmienkou)

Obsah programu

1) AI Act pre samosprávy – prehľad a kľúčové pojmy 

• Čo je AI Act a čo rieši v prostredí verejnej správy

• Roly a zodpovednosti: dodávateľ (provider) vs. používateľ/nasaditeľ (deployer)

• Typické use-cases v samospráve: chatbot pre občanov, triedenie podaní, analýza dokumentov, predikcie, dohľadové systémy, HR nástroje

2) Rizikový prístup a zakázané praktiky 

• Štyri úrovne rizika a praktický rozhodovací rámec „kam to patrí“

• Zakázané praktiky: príklady relevantné pre samosprávy (napr. niektoré biometrické a manipulatívne použitia)

• Mini-workshop: rozpoznanie rizík v modelových scenároch (bezpečnosť, call centrum, sociálne služby)

3) Vysokorizikové systémy a povinnosti pri ich použití 

• Kedy sa riešenie môže stať vysokorizikovým v prostredí samosprávy

• Povinnosti pri používaní: dohľad, kvalita dát, dokumentácia, logy, presnosť, robustnosť, kyberbezpečnosť

• Praktický checklist „čo si vypýtať od dodávateľa“ pre obstarávanie aj prevádzku

4) Transparentnosť a generatívna AI v komunikácii samosprávy 

• Transparentnosť pri chatbotoch a automatizovaných interakciách s občanmi

• Označovanie AI obsahu a pravidlá pre upravené/umelé médiá v komunikácii

• Interné pravidlá používania generatívnej AI: citlivé údaje, schvaľovanie výstupov, zodpovednosť

5) AI governance a AI gramotnosť v organizácii 

• Ako nastaviť interné riadenie AI (procesy, schvaľovanie, monitoring)

• AI gramotnosť: koho školiť, čo školiť, ako evidovať a vyhodnocovať

• Incidenty a podnety občanov: jednoduchý postup, eskalácia a komunikačný rámec

6) Verejné obstarávanie a zmluvné nastavenie AI riešení 

• Ako preniesť požiadavky do súťažných podkladov a zmlúv

• Zmluvné minimum: dokumentácia, audit, zmenové riadenie, SLA, logovanie, bezpečnostné povinnosti

• „Red flags“ pri ponukách a hodnotenie rizík dodávateľa

Profil absolventa

Absolvent vie posúdiť, či plánované alebo používané AI riešenie v samospráve spadá pod zakázané, transparentné alebo vysokorizikové použitie, a vie určiť rolu samosprávy v projekte. Dokáže pripraviť základný rámec riadenia AI, nastaviť minimálne interné pravidlá (AI policy), pripraviť požiadavky do verejného obstarávania a vytvoriť akčný plán krokov na dosiahnutie súladu v konkrétnych agendách.

Metódy vzdelávania

• Interaktívny výklad s príkladmi zo samosprávy

• Prípadové štúdie (bezpečnosť, sociálne služby, HR, komunikácia s občanmi)

• Skupinová práca: klasifikácia use-case a návrh opatrení

• Praktický checklist pre obstarávanie a prevádzku

• Krátke kvízy + záverečný akčný plán

Forma vzdelávania – prezenčná, dištančná, kombinovaná

Kombinovaná (odporúčaná): 3 hodiny dištančne (teória + spoločné príklady) a 3 hodiny prezenčne (workshopy, scenáre, obstarávanie). Program je možné dodať aj plne prezenčne alebo plne dištančne podľa možností objednávateľa.

Metódy hodnotenia

• Vstupný a výstupný kvíz (porozumenie pojmov, rizík, povinností)

• Hodnotenie prípadovej štúdie (zaradenie rizika + návrh opatrení)

• Odovzdanie mini-akčného plánu (1–2 strany) pre vlastnú organizáciu

Rozsah vzdelávacieho programu (počet hodín) 

6 hodín pri prezenčnom kurze, 4 hodiny pri online kurze

Vstupné požiadavky na zaradenie do vzdelávania

• Technické: notebook (pri prezenčnej forme), prístup na internet, možnosť pracovať s dokumentom/šablónou (Word/Google Docs)

• Organizačné: možnosť priniesť 1–2 reálne use-casy z úradu (aj anonymizovane) na workshop

• Odporúčané: účasť z viacerých útvarov (IT + právnik/DPO + obstarávanie + vecný gestor agendy)

Definovanie vzdelávacích výstupov

Po absolvovaní účastník:

1. Vysvetlí základné princípy AI Act a určí rolu samosprávy v konkrétnom projekte.

2. Identifikuje zakázané praktiky a navrhne alternatívne, súladné riešenie pre daný zámer.

3. Zaradí typické samosprávne use-casy do rizikových kategórií a zdôvodní rozhodnutie.

4. Zostaví checklist požiadaviek na dodávateľa a dokumentáciu pre obstarávanie a prevádzku AI riešenia.

5. Navrhne interné pravidlá (AI policy) vrátane školenia, dohľadu a postupu pri incidentoch.

6. Vytvorí akčný plán implementácie súladu s AI Act pre vlastnú organizáciu s míľnikmi podľa účinnosti povinností.

Kedy a kde?