Transparentnost obsahu a zvyšování digitální gramotnosti. Další část AI Actu vstupuje do praxe. Na co si dát pozor?

Umělá inteligence se stává součástí každodenní práce neziskových organizací. S jejím využíváním ale přicházejí i nové povinnosti, které stanovuje evropský AI Act, tedy Akt o umělé inteligenci. Ten jako nařízení Evropské unie závazné ve všech členských státech upravuje pravidla pro vývoj, dovoz, uvádění na trh a používání systémů umělé inteligence v EU.

Povinnosti vyplývající z AI Actu se zavádějí postupně. První z nich se uplatňují již od února 2025, další vstoupily v platnost v srpnu téhož roku a převážná část pravidel začala platit od srpna 2026. Původní harmonogram však mezitím změnilo nařízení označované jako Omnibus on AI, které zejména odložilo uplatňování povinností pro vysoce rizikové systémy na roky 2027 a 2028.

Pravidla se vztahují také na neziskový sektor. „AI Act se týká nejen tzv. poskytovatelů, tj. firem a organizací, které systémy AI vyvíjejí, ale i těch, kdo systémy AI používají. I nezisková organizace může systém AI vyvíjet, ale mnohem častěji bude v roli tzv. zavádějícího subjektu. Tedy subjektu, který používá systém AI při své odborné nebo profesní činnosti,” vysvětluje Petr Otevřel, advokát a odborník na právo informačních technologií a problematiku umělé inteligence.

Článek se proto zaměřuje především na povinnosti zavádějících subjektů. 

PO

Petr Otevřel

Advokát a společník v advokátní kanceláři Jansa, Mokrý, Otevřel & partneři s.r.o.

Petr se ve své advokátní praxi věnuje dlouhodobě právu informačních technologií a ochraně osobních údajů. Konkrétně v uvedených oblastech připravuje a sjednává složitější smluvní dokumentaci nebo právní rozbory. Své zkušenosti pravidelně předává dále, je spoluautorem odborných knih Softwarové právo, dále Internetové právo a nejnověji se podílel na knize Počítačové programy a autorské právo. Vedle toho pravidelně píše články s právní tematikou mimo jiné pro portál PravoIT.cz a přednáší v oblasti práva informačních technologií, GDPR a nově samozřejmě v oblasti AI. Ve Světě neziskovek v roce 2025 vedl společně s Kateřinou Švidrnochovou kurz AI Act v praxi: Průvodce nejen pro vedoucí neziskových organizací.

Vždy označte AI obsah 

Dne 2. srpna 2026 vstoupily v platnost povinnosti transparentnosti pro subjekty, které využívají generativní AI pro tvorbu obsahu.

Vedle závazných pravidel pro poskytovatele umělé inteligence, mezi které patří například označování AI výstupů ve strojově čitelném formátu nebo informování uživatelů o tom, že komunikují s AI chatbotem, stanovuje nařízení také povinnosti pro subjekty, které tyto systémy používají. “Ty se týkají zejména tzv. deepfakes, tedy obrazového, zvukového či videoobsahu vytvořeného nebo pozměněného pomocí AI, který může působit jako autentický. Organizace, jež takový obsah využívají, musí jasně uvést, že byl vytvořen nebo upraven umělou inteligencí,” popisuje Petr Otevřel. 

Podobná povinnost se vztahuje také na text generovaný nebo upravený pomocí AI, který je zveřejněn za účelem informování veřejnosti o záležitostech veřejného zájmu. Pokud obsah prošel lidským přezkumem a odpovědnost za něj nese konkrétní osoba, tato povinností odpadá. 

Další z nově účinných povinností se týká organizací, které používají AI systémy rozpoznávající emoce nebo systémy umožňující biometrickou kategorizaci osob, v rámci které probíhá zařazování lidi do určitých skupin na základě jejich biometrických údajů, například podle odhadovaného věku nebo jiných fyzických znaků. Pokud je použití takového systému podle AI Actu přípustné, musí o tom informovat dotčené fyzické osoby a zajistit zpracování jejich osobních údajů v souladu s pravidly ochrany osobních údajů podle GDPR.

„Velice rychlý vývoj a adaptace systémů AI nás všechny staví před nutnost aplikovat stávající právní předpisy na tuto novou oblast. AI Act totiž nepokrývá všechny aspekty používání umělé inteligence. V praxi se proto na její používání uplatňuje řada stávajících právních předpisů, jako jsou GDPR, autorské právo nebo pravidla ochrany důvěrných informací,” vysvětluje Otevřel.

Umělé inteligenci vstup zakázán

Od února 2025 je nicméně AI actem zakázáno využívat systémy rozpoznávání emocí na pracovišti a ve vzdělávacích institucích a používat biometrickou kategorizaci, která lidi třídí podle citlivých charakteristik, jako jsou rasa, politické názory, náboženské či filozofické přesvědčení nebo sexuální orientace. 

Mezi další zakázané postupy patří využívání systémů umělé inteligence k podprahové, manipulativní či klamavé technice, zneužívání zranitelnosti osob nebo hodnocení sociálního kreditu. 

Zákazy se nevztahují na využití těchto systémů pro účely lékařské a psychologické péče ani na případy, kdy je jejich použití odůvodněno bezpečnostními důvody.

Zaměstnanectvo musí AI rozumět

Od února minulého roku platí také povinnost přijímat opatření na podporu rozvoje AI gramotnosti. „Zavádějící subjekty musí rozvíjet dovednosti a znalosti svých zaměstnanců a zaměstnankyň, aby si byli vědomi možností i rizik spojených s AI, včetně základního právního povědomí a možných škod, které může umělá inteligence způsobit,” popisuje advokát. 

V praxi mohou mít tato opatření formu interních školení, sdílení know-how nebo například workshopů. Vzdělávání je ale nutné přizpůsobit konkrétním potřebám zaměstnanců tak, aby zohledňovalo jejich technické znalosti a zkušenosti, náplň práce i cílovou skupinu, na kterou může být systém AI využit. Stejné školení by tedy neměli absolvovat například zaměstnanci, kteří AI využívají pouze k běžným administrativním úkonům, a ti, kteří s její pomocí pracují s citlivými údaji. 

Původní úprava byla v oblasti AI gramotnosti přísnější. S přijetím Digitálního omnibusu (souhrnného legislativního balíčku) pro oblast umělé inteligence, který vstoupil v platnost v červenci a jehož cílem je zjednodušit a upravit pravidla AI Actu, ale došlo ke zmírnění této povinnosti do podoby popsané výše. 

Nastavte si pravidla dřív, než vznikne problém

Součástí vzdělávání může být také vytvoření interní směrnice pro používání umělé inteligence.

„Nejdříve by si každá organizace měla položit sadu otázek: Jaká je úroveň gramotnosti v oblasti AI v naší organizaci? Co již nyní používáme a proč? Co bychom chtěli používat a proč? Jaká jsou rizika a jak je můžeme zmírnit?” pokračuje Petr Otevřel. 

Cílem směrnice by podle něj mělo být především předcházet tzv. Shadow AI, tedy situaci, kdy zaměstnanci nebo spolupracovníci používají vlastní nástroje – ať už jejich bezplatné, nebo placené verze určené k osobnímu užití. „Organizace tím totiž ztrácí kontrolu nejen nad tím, co se děje s jejími daty a osobními údaji, ale také například nad právní kvalitou výstupů,” vysvětluje.

Organizacím proto doporučuje vytvořit kvalitní vnitřní předpis, který jasně stanoví cíle a účel využívání AI, popíše základní rizika a upraví pravidla pro používání konkrétních nástrojů nebo sdílení citlivých dat. Vhodné je také sepsat pravidla pro užívání nových systémů umělé inteligence a stanovit konkrétní povinnosti a zákazy, například povinnost ověřovat výstupy nebo používat pouze organizací schválené nástroje.

„A v neposlední řadě: pravidla napište výstižně, srozumitelně, nechte je připomínkovat osobami, kterých se budou týkat, a pravidelně je aktualizujte. Tím zvýšíte šanci na jejich skutečné přijetí ze strany ‚adresátů‘ a zajistíte, že budou mít reálný a pozitivní dopad na vaši organizaci,“ apeluje Otevřel. 

Některé povinnosti se odkládají

Digital Omnibus kromě změn v oblasti AI gramotnosti přinesl také zjednodušení některých pravidel, větší podporu inovací, snížení administrativní zátěže a zároveň zpřísnění ochrany lidských práv. Například zákaz nudifikačních aplikací a možnost zpracovávat citlivá data za účelem boje proti diskriminaci. Důležitou součástí změn je také úprava časového harmonogramu pro uplatňování zbylých částí AI Actu.

„EU si uvědomila, že termíny pro účinnost některých částí AI Actu byly stanoveny příliš optimisticky a nebylo reálné, aby dané požadavky zvládli včas splnit poskytovatelé či zavádějící subjekty, ale ani samotné členské státy EU,” vysvětluje advokát Petr Otevřel. 

Letos v srpnu původně měla začít platit pravidla pro vysoce rizikové systémy používané například při hodnocení a sledování studentstva nebo zaměstnanectva, během soudních řízení, při rozhodování o přístupu k základním službám a dávkám, posuzování žádostí o azyl, řízení kritické infrastruktury nebo při využívání povolené biometriky. AI Omnibus ale tento termín posunul na prosinec 2027.

O rok, tedy na srpen 2028, se posunula také účinnost pravidel pro vysoce rizikové systémy integrované do fyzických produktů, například některých strojů, hraček, výtahů nebo zdravotnických prostředků.

„V obou případech větší míru povinností nesou poskytovatelé systémů, které budou podle kritérií daných AI Actem vyhodnoceny jako vysoce rizikové. Přesto nemálo povinností dopadne i na zavádějící subjekty, které tyto systémy využívají,” říká Otevřel. 

V tuto chvíli ale spíše doporučuje neziskovým organizacím vyčkat. „Samotná klasifikace systému AI a posouzení toho, zda splňuje kritéria pro zařazení mezi vysoce rizikové systémy, nejsou totiž v některých případech jednoduché ani pro samotné poskytovatele,“ dodává.