Nominace na ombudsmana: AI a technologie v. ochrana práv

Už několik let jsme fascinováni tím, co všechno dokáže umělá inteligence. Prakticky každý měsíc přicházejí nové nástroje, nové aplikace, nové možnosti. AI píše texty, analyzuje data, vytváří obrazy, pomáhá v medicíně, zefektivňuje složité postupy, aplikuje se ve veřejné správě.

🤖 Nejsem technologickým expertem ani specialistou na regulaci AI. Přesto velmi silně vnímám, že ochrana práv občanů v době digitalizace je mimořádně důležité téma. Domnívám se, že by bylo vhodné, aby se mu veřejný ochránce práv systematicky věnoval jako jedné ze svých priorit.

⚖️ O technologických inovacích se mluví často. O jejich dopadech na základní práva a postavení jednotlivce podstatně méně. Zdá se mi, že v českém prostředí chybí instituce, která by se této oblasti věnovala dlouhodobě a komplexně z pohledu ochrany práv. A tento deficit se bude projevovat stále citelněji.

Aniž si to vždy plně uvědomujeme, digitalizace a umělá inteligence zásadně proměňují prostředí, v němž se uplatňují základní práva. Nejde pouze o technický pokrok, ale o změnu vztahů mezi jednotlivcem, státem a silnými soukromými aktéry. Právě proto je nezbytné uvažovat o tom, jaké kontrolní a vyvažující mechanismy by tuto proměnu měly provázet.

🇪🇺Evropská unie se snaží nastavovat v oblasti digitálních technologií rámec ochrany práv – od ochrany osobních údajů přes regulaci digitálních platforem až po komplexní regulaci umělé inteligence. Na podobu a rozsah této regulace existují různé názory a legitimní diskuse o tom, jak intenzivní má být. Ve své podstatě jde o hledání vyváženého stavu, kdy regulace není překážkou vývoje, ale současně mu stanoví jasné limity a pravidla tam, kde se dotýká základních práv.

🇨🇿 Česká implementace evropských předpisů přitom počítá s tím, že ombudsman bude mít významnou roli při ochraně základních práv v souvislosti s využíváním vysoce rizikových systémů AI. To by mohlo znamenat možnost vyžadovat informace, iniciovat přezkum, spolupracovat s dozorovými orgány a především systematicky sledovat dopady těchto technologií na konkrétní lidi.

O jaká další konkrétní témata by se mohlo jednat?

⚙️ Algoritmická diskriminace

Rozhodování o dávkách, zaměstnání, úvěrech či jiných službách může být dnes ovlivněno algoritmem. Znevýhodnění tak nemusí mít podobu otevřeného lidského rozhodnutí, protože je skryté v datech a kódu. Pro jednotlivce může být velmi obtížné jej odhalit a účinně napadnout. O to důležitější by bylo, aby existoval odborně vybavený aktér, který se této oblasti bude systematicky věnovat.

👁️ Digitální dohled

Kamerové systémy, biometrická identifikace či analýza online komunikace mohou výrazně zasahovat do soukromí a ochrany osobních údajů. Argument bezpečnosti je legitimní, ale je potřeba hledat rovnováhu mezi veřejným zájmem a ústavně zaručenými právy.

🌐 Digitální inkluze

Stále více služeb, komunikace s úřady i výkon práv se přesouvá do online prostoru. Pro část společnosti je to zjednodušení. Pro jinou část, jako jsou senioři, osoby bez digitálních dovedností či lidé v sociálně vyloučených oblastech, to může představovat novou bariéru. Digitalizace nemůže být nastavena tak, že výkon práv bude fakticky podmíněn technologickou vybaveností nebo digitální gramotností.

🏢 Nerovnováha mezi jednotlivcem a velkými hráči

Představa, že jednotlivý uživatel sociální sítě nebo jiné digitální služby dokáže účinně hájit svá práva vůči globální korporaci, je spíše iluzorní. Rozdíl v ekonomické síle, přístupu k informacím i odborném zázemí je zásadní. Úkolem ombudsmana tradičně je vstupovat právě do takto asymetrických vztahů a posilovat v nich postavení jednotlivce. V digitálním prostředí nabývá tento úkol na významu.

🏛️ Digitalizace justice a veřejné správy

Využívání moderních technologií a prvků automatizace může přispět k vyšší efektivitě rozhodování. Zároveň je však třeba počítat s rizikem omezené transparentnosti a možného přenášení či prohlubování již existujících nerovností. Proto by zavádění těchto nástrojů mělo probíhat na základě jasně stanovených pravidel, s důrazem na otevřenost a průběžné vyhodnocování dopadů. Veřejný ochránce práv by v této oblasti mohl vytvářet prostor pro odbornou diskusi a přispívat k formulaci metodických doporučení.

⚖️ Role ombudsmana

Digitalizace a využívání moderních technologií zjevně nejsou pouze otázkou vítané inovace, která vždy přináší jen prospěch. Pokud se dotýkají výkonu veřejné správy nebo mají potenciál zasahovat do základních práv, stávají se otázkou fungování právního státu, rovnosti před zákonem, přístupu ke spravedlnosti i celkové kvality demokracie.

Domnívám se, že jak v rámci své tradiční působnosti, tak i v oblastech, které na něj zákonodárce nově přenáší, by měl ombudsman systematicky sledovat dopady digitalizace na práva občanů. Měl by přispívat k vyváženému pohledu na využívání moderních technologií ve veřejné správě. A působit jako nezávislý aktér, který bude přispívat k tomu, aby technologický pokrok respektoval základní pravidla, na kterých je moderní právní stát vybudován.

Photo by Aidin Geranrekab on Unsplash