Ministerstvo vnitra se snaží „předběhnout“ nová evropská pravidla pro užívání umělé inteligence. Konkrétně jde o otevření vrátek k širokému využívání automatických kamerových systémů pro rozpoznávání obličejů. Návrh, který se podle organizace Iuridicum Remedium snaží vyhnout soudní kontrole, strhal v už ukončeném připomínkovém řízení mimo jiné i Úřad pro ochranu osobních údajů, který rovnou mluví o potenciálnímu směřování k „čínskému modelu“.

Nová evropská pravidla pro fungování umělé inteligence obsahují kontrolní mechanismy pro využití systémů na rozpoznávání obličejů přes kamerové systémy na veřejnosti. Ministerstvo vnitra však podle organizace Iuridicum Remedium (IuRe) předložilo v předstihu novelu, která se je snaží obejít. „Zjevně je cílem zlegalizovat jednou pro vždy nepřetržité použití biometrických sledovacích systémů,“ kritizoval návrh advokát Jan Vobořil z IuRe. Podle Evropského parlamentu by sledování mělo být možné pouze u jednotlivců, u nichž to povolí soud.

„Obecně lze vyjádřit obavu, zda předložený návrh v některých svých aspektech jdoucích nad nezbytné evropským právem vyžadované minimum nepovede k ,čínskému modelu‘, tedy k masivnímu nasazení kamer se systémem na rozpoznávání tváří a jejich následnému masovému vytěžování, a to za využití AI, což věc činí násobně více rizikovou,“ uvádí v připomínkách k novele Úřad pro ochranu osobních údajů.

„Čínská lidová republika patří mezi nejvíce střežené státy světa, přičemž systém se používá na bezpečnostní účely, aby vláda – dle svého pohledu na věc – uchránila své občany před nebezpečnými skupinami, jako jsou teroristé nebo zločinci, a zvnějšku nahlíženo (zejména) aby si udržela sociální kontrolu. Čínská lidová republika si tento systém bezpečnostních kamer logicky chválí, avšak z hlediska obecných lidskoprávních principů dochází k porušení práv na soukromí a politické a sociální svobody jednotlivců,“ dodává úřad s tím, že „gumová ustanovení“ návrhu vez zabezpečení dostatečné kontroly v praxi umožní nadužívání kamerových systémů a zvýší tak riziko nadměrného zásahu do práv podezřelých či potenciálně podezřelých osob.

Kritiku sklidil návrh i od kanceláře veřejného ochránce práv. „Tato úprava neodpovídá nařízení o umělé inteligenci. Dle čl. 5 odst. 3 nařízení podléhá předběžnému povolení soudu nebo nezávislého správního orgánu každé využití systému. Oproti tomu navrhovaná úprava počítá s povolením neomezeného počtu využití za podmínek předem určených pouze rámcově. Jistým dohledovým mechanismem je oznamování zařazení osob do databáze pověřenci pro ochranu osobních údajů, který může vyjádřit svůj nesouhlas. Zde ale jednak nejde o povolovací režim, jednak nejde o nezávislý orgán,“ stojí v připomínkách úřadu.

Na kontroverzní návrh upozornila krátce po zveřejnění k připomínkám IuRe. „Možnost využívání systémů na biometrické sledování v reálném čase upravuje zejména článek 5 AI Actu. Ten umožňuje jakékoli využití takového systému pouze s povolením soudu nebo nezávislého správního orgánu. Co se myslí takovým využitím, je z kontextu zřejmé: jde o vyhledávání konkrétní osoby, tedy její zařazení do referenční databáze. Soud nebo nezávislý orgán by zde měl posoudit, jestli jsou splněny zákonné podmínky zařazení dotyčného do databáze a jestli jde o akceptovatelný zásah do jeho základních práv, podobně jako u odposlechů. AI Act dokonce obsahuje i možnost zařadit takovou osobu do databáze hned s tím, že soudní povolení je následně nutné zajistit do 24 hodin,“ uvedla organizace.

Ministerstvo vnitra však podle IuRe využilo možnost, díky níž národní státy mohou detaily procesu upravit, k předložení „naprosto neakceptovatelné“ novely. „Ta tento kontrolní mechanismus zcela vyprazdňuje. Předmětem kontroly by podle návrhu ministerstva nebylo zařazení konkrétní zájmové osoby do databáze, ale pouze spuštění samotného systému. Se zařazením konkrétní osoby má pak pouze vyslovit souhlas pověřenec pro ochranu osobních údajů provozovatele systému a jednou za čtvrt roku informovat soud o tom, koho policie do databáze zařadila,“ uvedla organizace v prohlášení.

„Lze si jen stěží představit, že by soudní povolení provozu takového systému mohlo být něčím jiným než bianco šekem k používání, pokud soud nebude posuzovat důvodnost použití v konkrétním případě. Stejně tak je zjevné, že pověřenec zaměstnaný u provozovatele systému, třeba na policejním prezidiu, nemůže být ani soudním ani nezávislým správním orgánem, který by měl použití systému v konkrétních případech podle AI Actu povolovat. Ministerstvo vnitra tak zjevně má v úmyslu obcházet i ty omezené záruky, které AI Act pokud jde o biometrické sledování, přináší,“ dodal advokát Jan Vobořil.

Největší spory panovaly kolem používání umělé inteligence k biometrickému sledování v reálném čase i v Evropském parlamentu při hlasování o tzv. Aktu o umělé inteligenci. Někteří europoslanci, například z české strany Piráti, kvůli tomu hlasovali proti. „Programy umělé inteligence umí v reálném čase rozpoznávat obličeje a přiřazovat je ke konkrétním lidem. Umožňují v reálném čase sledovat, kdo, kdy a kde je a s kým. V nesprávných rukou jde o děsivý nástroj plošného sledování lidí, což vidíme třeba v dnešním Rusku. Tam jsou nainstalovány třeba v metru a zneužívány ke špehování těch, kdo si dovolí mít ‚nesprávný‘ názor‘,“ kritizoval finální podobu europoslanec Pirátů Marcel Kolaja.