Podle českého europoslance Marcela Kolaji je potřeba nastavit jasné předpisy pro používání umělé inteligence. Zástupce Pirátů v Evropském parlamentu je také členem výboru pro vnitřní trh a ochranu spotřebitelů. Ten spolu s výborem pro občanské svobody ve čtvrtek hlasoval o jednotlivých aspektech nařízení, které jsou klíčové pro budoucí účinnou ochranu lidských práv. „Umělá inteligence má potenciál posunout lidstvo dopředu, ale i rizika. Je potřeba konat dnes,“ podotkl Kolaja.

Stanislav Fořt, ředitel vývoje a výzkumu velkých jazykových modelů ve Stability AI
Umělá inteligence změní budoucnost. Nesmí sloužit jen bohatým, říká vědec Fořt

Podobně před hlasováním hovořil jeho kolega z výboru, italský europoslanec Brando Benifei. „Jsme na prahu přelomové legislativy pro Evropu. A nejen pro ni, upírají se na nás oči celého světa. Musíme k umělé inteligenci přistupovat obezřetně a omezit rizika,“ uvedl.

Striktnější podmínky se podle českého europoslance mají týkat zhruba patnácti procent aplikací – z pohledu Evropské komise nejrizikovějších. „Do původního návrhu se nám podařilo prosadit ještě další zpřísnění a změny. Například ke vzdálené biometrické identifikaci a rozpoznávání obličejů. Bude to možné pouze ze záznamu a se souhlasem soudu,“ nastínil Kolaja.

Jak zmínil, systém používají třeba v Rusku při identifikaci obličejů demonstrantů na protiválečných protestech. „Jde o velmi zneužitelný systém. Do moderní demokracie nepatří,“ prohlásil.

Vzdělávací projekt Aignos seznamuje s výhodami i riziky umělé inteligence
Umělá inteligence: Dva nadšenci přibližují její výhody i rizika studentům

Podle něj se podařilo prosadit také zákaz rozpoznávání emocí umělou inteligencí v citlivých případech, třeba ve školství. Politik také prosazuje striktní pravidla pro systémy, které kontrolují studenty kamerami během zkoušek. „Chceme tím zabránit tomu, aby při využívání umělé inteligence mohlo dojít k diskriminaci, například když někdo má nějaký zdravotní handicap nebo má tmavší barvu kůže,“ vysvětlil europoslanec Kolaja. Zákaz kreditního systému, jak je známý z Číny, podle něj má platit nejen pro veřejný sektor, ale i soukromý.

Velký bratr 21. století

Obavy z vytváření mocných zneužitelných nástrojů má Jan Vobořil, ředitel Iuridicum Remedium, spolku zabývajícího se digitální svobodou. „Zkušenosti hovoří jasně: to, co dnes vypadá jako sci-fi scénář, se může zrealizovat během velmi krátké doby,“ ilustroval s tím, že tomu nahrává překotný vývoj technologií. Klasické kamery, dosud pouze zaznamenávající obraz, už umožňují dosud nepředstavitelné možnosti identifikace v reálném čase, včetně sledování emocí – zda je člověk šťastný, nebo naštvaný.

Právní regulaci využívání biometrického dohledu považuje Vobořil za klíčovou v procesu schvalování Aktu o umělé inteligenci.

„Jsme pro zákaz biometrického sledování ve veřejném prostoru. Jde o citlivá data, může jít o základ infrastruktury pro budoucí automatizované hodnocení lidí ve všech aspektech jejich života a sociální kontrolu po vzoru čínského kreditového systému,“ upozornil.

Podle Iuridicum Remedium algoritmy umělé inteligence ve světě už běžně nahrazují lidskou obsluhu. „Identifikují se lidé (podle tváře, chůze), auta (podle SPZ), detekují se jevy jako pohyb, umístění věcí v prostoru, interakce mezi lidmi, podivné chování, zvuky. Biometrické sledování rozpoznává už i emoce, věk,“ vyjmenoval Vobořil.

Chybí mu záruky, že nashromážděná data o pohybu a chování masy konkrétních  lidí nejsou nebo nebudou dál využívána nejrůznějšími způsoby.

Logo Twitteru na mobilním telefonu
Ochrana před umělou inteligencí? Twitter chystá další změnu u placených profilů

Před vážnými dopady na svobodu projevu, hrozbami diskriminace a všeobecným porušováním demokratického práva na soukromí varuje také mezinárodní nezisková advokátní skupina EDRi, s níž Iuridicum Remedium spolupracuje. „Odmítáme systémy hromadného sledování, které s námi všemi zacházejí jako s chodícími čárovými kódy. V petici se k nám připojily desítky tisíc lidí v EU,“ sdělila Ella Jakubowska z EDRi.

Na evropské výbory apelovali, zda jsou ochotni dát lidská práva a svobody na první místo, nebo zda „upřednostní dohled, kontrolu a zisky“. Legislativní proces schvalování Aktu o umělé inteligenci nicméně pokračuje.