Nová evropská pravidla pro fungování umělé inteligence obsahují kontrolní mechanismy pro využití systémů na rozpoznávání obličejů přes kamerové systémy na veřejnosti. Ministerstvo vnitra však podle organizace Iuridicum Remedium (IuRe) předložilo v předstihu novelu, která se je snaží obejít. „Zjevně je cílem zlegalizovat jednou pro vždy nepřetržité použití biometrických sledovacích systémů,“ kritizuje návrh advokát Jan Vobořil z IuRe. Podle Evropského parlamentu by sledování mělo být možné pouze u jednotlivců, u nichž to povolí soud.

Europoslanci ve středu schválili nová pravidla pro fungování umělé inteligence. Akt o umělé inteligenci je podle expertů prvním svého druhu na světě a mohl by ovlivnit podobné normy také v zemích mimo Evropskou unii. Nařízení zavádí klasifikaci technologií podle způsobu využití a nastavuje různé úrovně omezení podle míry souvisejících rizik. Některé systémy chce EU zcela zakázat, další nástroje jako algoritmy na rozpoznávání obličejů budou podléhat silné regulaci.

Asi největší spory se v Evropském parlamentu vedly ohledně používání AI k biometrickému sledování v reálném čase, tedy o možnost využívání systémů na rozpoznávání obličejů přes kamerové systémy na veřejnosti. Někteří europoslanci, například z české strany Piráti, kvůli tomu hlasovali proti. „Programy umělé inteligence umí v reálném čase rozpoznávat obličeje a přiřazovat je ke konkrétním lidem. Umožňují v reálném čase sledovat, kdo, kdy a kde je a s kým. V nesprávných rukou jde o děsivý nástroj plošného sledování lidí, což vidíme třeba v dnešním Rusku. Tam jsou nainstalovány třeba v metru a zneužívány ke špehování těch, kdo si dovolí mít ‚nesprávný‘ názor‘,“ kritizoval finální podobu europoslanec Pirátů Marcel Kolaja.

Podle organizace IuRe však s předstihem ministerstvo vnitra přišlo s návrhem, který má v tomto ohledu zajít ještě dál. „Možnost využívání systémů na biometrické sledování v reálném čase upravuje zejména článek 5 AI Actu. Ten umožňuje jakékoli využití takového systému pouze s povolením soudu nebo nezávislého správního orgánu. Co se myslí takovým využitím, je z kontextu zřejmé: jde o vyhledávání konkrétní osoby, tedy její zařazení do referenční databáze. Soud nebo nezávislý orgán by zde měl posoudit, jestli jsou splněny zákonné podmínky zařazení dotyčného do databáze a jestli jde o akceptovatelný zásah do jeho základních práv, podobně jako u odposlechů. AI Act dokonce obsahuje i možnost zařadit takovou osobu do databáze hned s tím, že soudní povolení je následně nutné zajistit do 24 hodin,“ uvedla organizace.

Ministerstvo vnitra však podle IuRe využilo možnost, díky níž národní státy mohou detaily procesu upravit, k předložení „naprosto neakceptovatelné“ novely. „Ta tento kontrolní mechanismus zcela vyprazdňuje. Předmětem kontroly by podle návrhu ministerstva nebylo zařazení konkrétní zájmové osoby do databáze, ale pouze spuštění samotného systému. Se zařazením konkrétní osoby má pak pouze vyslovit souhlas pověřenec pro ochranu osobních údajů provozovatele systému a jednou za čtvrt roku informovat soud o tom, koho policie do databáze zařadila,“ uvedla organizace v prohlášení.

„Lze si jen stěží představit, že by soudní povolení provozu takového systému mohlo být něčím jiným než bianco šekem k používání, pokud soud nebude posuzovat důvodnost použití v konkrétním případě. Stejně tak je zjevné, že pověřenec zaměstnaný u provozovatele systému, třeba na policejním prezidiu, nemůže být ani soudním ani nezávislým správním orgánem, který by měl použití systému v konkrétních případech podle AI Actu povolovat. Ministerstvo vnitra tak zjevně má v úmyslu obcházet i ty omezené záruky, které AI Act pokud jde o biometrické sledování, přináší,“ dodal advokát Jan Vobořil.