Europski parlament želi zabraniti kontroverzne tehnologije umjetne inteligencije

Automatizirani sustavi umjetne inteligencije koji rade na prepoznavanju lica ne bi trebali biti korišteni za nadzor granica i javnih površina, a privatne baze podataka o licima građana trebale bi biti zabranjene – sukus je to rezolucije Europskog parlamenta koja je većinom glasova prihvaćena ovoga tjedna.

Reguliranje AI sustava

Eurozastupnici su ukazali na rizike od pristranosti algoritama umjetne inteligencije i naglasili kako je nužno da oni budu pod strogim ljudskim nadzorom kako bi se spriječila diskriminacija ljudi. Primarno se to odnosi na upotrebe AI sustava u policijske svrhe, za nadzor javnih površina ili državnih granica.

AI često diskriminira manjine
AI često diskriminira manjine

“Ljudski operateri morali bi uvijek donositi konačne odluke, a osobe koje sustavi umjetne inteligencije nadziru moraju imati pristup pravnom lijeku”, stoji u rezoluciji Europskog parlamenta. Posebno je zabrinjavajuće što sustavi prepoznavanja lica temeljeni na umjetnoj inteligenciji već sada krivo identificiraju pripadnike etničkih manjinskih skupina, LGBTI osobe, starije i žene. Kako bi se njihova temeljna ljudska prava poštivala, nužno je da takvi algoritmi budu transparentni i dovoljno dokumentirani. Ako je moguće, vlasti b trebale koristiti open source rješenja gdje god je moguće.

“Nije upitno mogu li sustavi umjetne inteligencije dovesti do rasno pristranih i diskriminirajućih ishoda. Znamo da je to slučaj”, rekao je izvjestitelj Petar Vitanov.

Zabrana kontroverzne tehnologije

Europarlamentarci su ovom rezolucijom pozvali i na zaštitu privatnosti i dostojanstva stanovništva, pa su zatražili i trajnu zabranu automatiziranih sustava za prepoznavanje lica u javnim prostorima koje koriste policije. Ljude bi trebalo pratiti samo onda kada su osumnjičeni za zločin, a ne masovno. K tome, trebalo bi zabraniti i privatne baze podataka s ljudskim licima, poput kontroverznog sustava Clearview AI, koji se već uvelike koristi.

Zabrana bi trebala uključiti i policijske akcije temeljene na podacima o ponašanju osoba, koje bi imale za cilj spriječiti neko buduće kazneno djelo (predictive policing, što je nekada bilo tema znanstvene fantastike, a danas nije daleko od stvarnosti). Kad smo već kod sci-fi tehnologija, Europski parlament “o istom trošku” poziva i da se zabrani bilo kakva implementacija ocjenjivanja građana na temelju njihovog ponašanja, koja bi imala za cilj rangirati ih i dodjeljivati im statuse i ocjene, temeljene na dobrom vladanju ili osobnosti (o čemu se već govori u Kini).