Kineski znanstvenici stvorili su “AI tužitelja” koji može podići optužnicu
U Kini bi vas AI (umjetna inteligencija) mogao poslati u zatvor. Istraživači u zemlji razvili su stroj koji može optužiti ljude za zločine uz pomoć umjetne inteligencije.
Ovaj AI “tužitelj” može podignuti optužnicu s više od 97 posto točnosti na temelju usmenog opisa slučaja, prema izjavama tima. South China Morning Post izvijestio je da je stroj izradio i testirao Shanghai Pudong People’s Procuratorate, najveće i najuposlenije okružno tužiteljstvo u zemlji.
Prema profesoru Shi Yongu, ravnatelju laboratorija za upravljanje velikim podacima i znanjem Kineske akademije znanosti i vodećem znanstveniku projekta, tehnologija bi mogla smanjiti svakodnevni rad tužitelja, omogućujući im da se usredotoče na teže zadatke.
Shi i njegovi kolege rekli su da “sustav može u određenoj mjeri zamijeniti tužitelje u procesu donošenja odluka”, u radu objavljenom ovog mjeseca u domaćem recenziranom časopisu Management Review.
Potreban je veći ‘red’
Iako zemlje poput Njemačke sada koriste tehnologiju umjetne inteligencije kao što je prepoznavanje slika i digitalnu forenziku kako bi povećale brzinu i točnost obrade predmeta, prvi su počeli koristiti umjetnu inteligenciju još 2016.godine. Nekoliko od njih sada koristi AI alat poznat kao System 206.
Alat može procijeniti snagu dokaza, uvjete za uhićenje i koliko se osumnjičenik smatra opasnim za javnost.
Ali svi postojeći alati umjetne inteligencije imaju ograničenu ulogu budući da “ne sudjeluju u procesu donošenja odluka o podnošenju optužbi i [predlaženju] kazni”, rekli su Shi i kolege za SCMP.
Donošenje takvih odluka zahtijevalo bi da stroj obavlja složenije zadatke, poput identificiranja i brisanja bilo kojeg sadržaja datoteke slučaja koji nije relevantan za zločin, bez izdvajanja korisnih informacija i pretvaranja složenog jezika u format koji računalo može razumjeti.
AI tužitelj koji je razvio Shijev tim može raditi na stolnom računalu. Za svakog osumnjičenika podnijela bi se optužnica na temelju 1000 “osobina” dobivenih iz teksta opisa slučaja koji su stvorili ljudi, od kojih je većina premala ili apstraktna da bi ljudima imala smisla. Sustav 206 bi tada procijenio dokaze.
Stroj je “uvježban” koristeći više od 17.000 slučajeva od 2015. do 2020. Za sada može identificirati i podići optužbe za osam najčešćih zločina u Šangaju koji uključuju prijevaru s kreditnim karticama, kockanje, opasnu vožnju, namjerno ozljeđivanje, ometanje službenog lica na dužnosti, krađe, prijevare i “poticanje svađa i izazivanje nevolja” – sveobuhvatna optužba koja se često koristi za suzbijanje neslaganja.
Shi i njegov tim rekli su da će AI tužitelj uskoro postati moćniji s nadogradnjom. Moći će prepoznati manje uobičajena kaznena djela i podnijeti više optužnica protiv jednog osumnjičenika.
Javlja se zabrinutost
South China Morning Post obratio se tužitelju u gradu Guangzhouu koji je izrazio zabrinutost zbog korištenja umjetne inteligencije u podizanju optužnica. “Točnost od 97 posto može biti visoka s tehnološke točke gledišta, ali uvijek će postojati šansa za pogrešku”, rekao je tužitelj, koji je zatražio da ostane anoniman.
Izravno sudjelovanje umjetne inteligencije u donošenju odluka također bi moglo utjecati na autonomiju ljudskog tužitelja. Većina tužitelja nije željela da se informatičari “miješaju” u pravnu presudu, rekao je tužitelj.
U SAD-u smo daleko od takozvane idealizirane budućnosti koju obećava umjetna inteligencija. Još uvijek radimo na greškama u forenzičkim algoritmima. Dobar primjer je sudski slučaj Distrikta Columbia iz 2017. Slučaj je uključivao anonimnog optuženika koji je zamalo doživio posljedice pogrešnog programiranja koje je predstavljeno kao dokaz na sudu.
Kako bi pomogao u rješavanju ovog i srodnih problema, zastupnik Takano je početkom ove godine ponovno uveo Zakon o pravosuđu u forenzičkim algoritmima, prijedlog zakona koji ima za cilj osigurati zaštitu građanskih prava optuženih u kaznenim predmetima i uspostaviti najbolje prakse za korištenje forenzičkog softvera umjetne inteligencije. Susponzor Dwight Evans (D-Penn.). “Jednostavno ne dopuštamo argument softverskih tvrtki da su njihovi vlasnički softverski interesi ili poslovne tajne svetiji od sudskih prava optuženih”, rekao je Takano u intervjuu za Interesting Engineering.
Međutim, bez obzira na nesavršenosti umjetne inteligencije, Kina nastavlja koristiti umjetnu inteligenciju u gotovo svakom sektoru vlade kako bi poboljšala učinkovitost, smanjila korupciju i ojačala kontrolu. Kineski sudovi koriste umjetnu inteligenciju kako bi pomogli sucima u procesuiranju spisa predmeta i donošenju odluka poput prihvaćanja ili odbijanja žalbe. Većina kineskih zatvora također je usvojila AI tehnologiju za praćenje fizičkog i mentalnog statusa zatvorenika, s ciljem smanjenja nasilja.
