Autor: Katherine Sheriff, Kate Berry, K.C. Halm, i John D. Seiver; 10.21.21
Ured bijele kuće za znanost i tehnologiju (OSTP)1 najavljen plan za izradu “zakona o pravima” za zaštitu od onoga što OSTP smatra potencijalno štetnim posljedicama umjetne inteligencije, uključujući očekivane i nepredviđene rizike koji proizlaze iz aplikacija umjetne inteligencije razvijenih pomoću biometrijskih podataka kao što su prepoznavanje lica, analiza glasa i tragači za otkucajima srca.
Prema Ericu Landeru i Alondri Nelson iz OSTP-a,2 OSTP “planira stvoriti zakon o pravima za automatizirani svijet, uz doprinos američke javnosti”. Kao potporu toj inicijativi OSTP je izdao i Zahtjev za informacijama (RFI) traženje informacija o razvoju i prošloj, trenutnoj ili planiranoj upotrebi biometrijskih tehnologija omogućenih umjetnom inteligencijom za identifikaciju ili provjeru pojedinaca ili izvlačenje zaključaka iz emocija, postupaka ili mentalnog stanja pojedinca.
Ta se inicijativa temelji na navodnoj zabrinutosti u pogledu rizika biometrijskih tehnologija koje se temelje na umjetnoj inteligenciji. Konkretno, Lander i Nelson pisali su o mogućim negativnim posljedicama umjetne inteligencije koristeći nepotpune skupove podataka koji ugrađuju prethodne predrasude i omogućuju današnju diskriminaciju, uključujući diskriminirajuća uhićenja, digitalne asistente koji ne prepoznaju određene naglaske i diskriminirajuće učinke alata za odobravanje hipoteke, obrazlažući:
Od moćnih tehnologija trebalo bi zahtijevati da poštuju naše demokratske vrijednosti i pridržavaju se središnjeg načela prema kojem bi se prema svima trebalo postupati pošteno. Kodificiranje ovih ideja može pomoći da se to osigura.
Stoga se čini da OSTP namjerava koristiti ovaj proces kako bi “kodificirao” određene vrijednosti i načela koja Lander i Nelson identificiraju u svom članku. Kako će se točno i kada taj proces kodifikacije dogoditi, ostaje za vidjeti.
Kao što je objašnjeno u nastavku, RFI usredotočuje se na prikupljanje podataka o razvoju i upotrebi aplikacija koje koriste biometrijske tehnologije, uključujući trenutnu i buduću upotrebu biometrijskih tehnologija za identifikaciju i provjeru pojedinaca, ili izvlačenje zaključaka iz emocija, radnji ili mentalnog stanja pojedinca (precrime*). OSTP će vjerojatno koristiti podatke primljene kao odgovor RFI-ju kao “evidenciju” na koju bi se oslanjao bilo koji predloženi zakon o pravima. Iako je taj proces još uvijek u vrlo ranoj fazi, mogao bi pružiti osnovu za usvajanje dodatnih regulatornih dužnosti za programere i korisnike umjetne inteligencije i biometrije u Sjedinjenim Državama.
Predloženi Prijedlog Zakona o pravima umjetne inteligencije s obzirom na utvrđene rizike
Prijedlog o uspostavi zakona o pravima umjetne inteligencije temelji se na pretpostavci da su trenutačne biometrijske tehnologije “dovele do ozbiljnih problema”. Nekoliko navodnih problema temelj je za ovaj prijedlog; prema Landeru i Nelsonu to uključuje skupove podataka koji ne predstavljaju američko društvo, tehnologije koje postavljaju pitanja o privatnosti i transparentnosti te određenu namjernu zlouporabu biometrijskih tehnologija.
Neki od navedenih primjera uključuju virtualne asistente koji ne razumiju južnjačke naglaske i tehnologiju prepoznavanja lica koja dovodi do nezakonitih, diskriminirajućih uhićenja. Drugi primjer odnosi se na zdravstvene algoritme koji odbacuju ozbiljnost bolesti bubrega kod Afroamerikanaca, što u konačnici sprječava ljude da primaju transplantaciju bubrega. Što se tiče zlouporabe biometrijskih tehnologija,
Lander i Nelson odnose se na neke autokracije koje koriste tehnologije prepoznavanja lica kao alat ugnjetavanja, podjele i diskriminacije pod pokroviteljstvom države. Lander i Nelson tvrde da se takvi problemi javljaju, djelomično, jer programeri umjetne inteligencije ne koriste “odgovarajuće” skupove podataka i ne provode sveobuhvatne revizije. Prema Landeru i Nelsonu, ti se problemi pogoršavaju nedostatkom različitih perspektiva među programerima – onima oko stola koji mogu i trebaju predvidjeti i riješiti probleme prije upotrebe proizvoda ili koji prekidaju razvoj proizvoda kada se proizvodi ne mogu popraviti.
Vjerojatni okvir za rješavanje utvrđenih problema
Općenito, zakon o pravima umjetne inteligencije namijenjen je “pojašnjenju prava i sloboda” pojedinaca koji koriste biometrijske tehnologije temeljene na podacima ili podliježu njima:
Kroz povijest smo morali reinterpretirati, potvrditi i povremeno širiti svoja prava. Trebali bismo pojasniti prava i slobode za koje očekujemo da ih tehnologije temeljene na podacima poštuju. Trebamo zakon o pravima da se zaštitimo od moćnih tehnologija koje smo stvorili.
Potencijalna afirmativna prava tek se trebaju utvrditi, ali Lander i Nelson predlažu sljedeće:
- (i) Pravo znati kada i kako umjetna inteligencija utječe na odluku koja utječe na građanska prava i građanske slobode pojedinca;
- ii. sloboda od izlaganja umjetnoj inteligenciji koja nije “pažljivo” revidirana kako bi se osiguralo da je točna i nepristrana;
- iii. Pravo na sigurnost u sustavima koji se osposobljavaju za “dovoljno reprezentativne” skupove podataka;
- iv. sloboda od sveprisutnog ili diskriminirajućeg nadzora i praćenja u kući, zajednici i na radnom mjestu; i
- (v) Pravo na “smisleno pribjegavanje” ako uporaba algoritma rezultira štetom.
Znakovito je da ta potencijalna nova prava upućuju na to da će OSTP pomno razmotriti određene obveze u pogledu transparentnosti i objašnjivosti, što je pitanje koje drugi regulatori pomno razmatraju. Osim toga, moguće revizije sustava umjetne inteligencije također mogu biti na stolu, kao i prava na isključivanje.
Konačno, čini se da OSTP razmatra moguće “pribjegavanje” ili pravnu zaštitu protiv organizacija koje koriste umjetnu inteligenciju za donošenje odluka ili poduzimanje određenih radnji. Ako se kodificira, bilo koja od tih ideja sama bi uvela značajne nove obveze; zajedno bi mogli znatno preinačiti regulatorne dužnosti za razvojne programere i korisnike sustava umjetne inteligencije, čime bi se mogli uvesti znatni izazovi u razvoj tehnologije umjetne inteligencije.
Iako nema jasnih naznaka o tome kako bi ta prava bila kodificirana ili provedena, Lander i Nelson predlažu nekoliko mogućnosti, uključujući korištenje ugovorne ovlasti savezne vlade i provedbu tih prava kao uvjeta osiguranja ugovora. Ostale mogućnosti o kojima se raspravlja uključuju zahtijevanje od saveznih izvođača da koriste tehnologiju koja se pridržava tih načela ili usvajanje novih zakona i propisa za formalno kodificiranje tih koncepata.
Prijedlog predstavlja najnoviji napor Bijele kuće da uz javni angažman razvije okvir umjetne inteligencije
Prijedlog OSTP-a najnoviji je pokušaj Bijele kuće i Izvršne vlasti da razviju okvir za upravljanje umjetnom inteligencijom i biometrijskom tehnologijom.3 Na lokalnoj razini, New York City biometrijski zakon stupila na snagu u srpnju 2021. Trumpova administracija osnovala je 2020. Američku inicijativu za umjetnu inteligenciju Izvršna naredba i izdane konačne smjernice za regulaciju aplikacija umjetne inteligencije.4
Sada OSTP poziva javnost da iznese svoje mišljenje usredotočujući RFI na biometrijske tehnologije s omogućenom umjetnom inteligencijom koje se koriste za identifikaciju ljudi i zaključivanje atributa, uključujući tehnologije poput prepoznavanja lica, te prepoznavanja i analize glasa, hoda i drugih fizičkih atributa. OSTP smatra da te tehnologije često predstavljaju predvodnik biometrijskih aplikacija omogućenih umjetnom inteligencijom koje utječu na širu javnost.
OSTP invites feedback from stakeholders across government, academia, civil society, the private sector, and the general public, including parties developing, acquiring, or using biometric technologies, and communities impacted by the use of such technologies. Impacted communities include individuals whose faces have been scanned before boarding a plane or whose employers issued fitness trackers to monitor employee fatigue, teachers whose software shows which students are not paying attention, and anyone else who has interacted with, built, or used these technologies.
Prijedlog predstavlja najnoviji napor Bijele kuće da uz javni angažman razvije okvir umjetne inteligencije
Prijedlog OSTP-a najnoviji je pokušaj Bijele kuće i Izvršne vlasti da razviju okvir za upravljanje umjetnom inteligencijom i biometrijskom tehnologijom.3 Na lokalnoj razini, New York City biometrijski zakon stupila na snagu u srpnju 2021. Trumpova administracija osnovala je 2020. Američku inicijativu za umjetnu inteligenciju Izvršna naredba i izdane konačne smjernice za regulaciju aplikacija umjetne inteligencije.4
Sada OSTP poziva javnost da iznese svoje mišljenje usredotočujući RFI na biometrijske tehnologije s omogućenom umjetnom inteligencijom koje se koriste za identifikaciju ljudi i zaključivanje atributa, uključujući tehnologije poput prepoznavanja lica, te prepoznavanja i analize glasa, hoda i drugih fizičkih atributa. OSTP smatra da te tehnologije često predstavljaju predvodnik biometrijskih aplikacija omogućenih umjetnom inteligencijom koje utječu na širu javnost.
OSTP poziva na povratne informacije od dionika iz cijele vlade, akademske zajednice, civilnog društva, privatnog sektora i šire javnosti, uključujući stranke koje razvijaju, stječu ili koriste biometrijske tehnologije te zajednice na koje utječe upotreba takvih tehnologija. Pogođene zajednice uključuju pojedince čija su lica skenirana prije ulaska u avion ili čiji su poslodavci izdali fitness trackere za praćenje umora zaposlenika, učitelje čiji softver pokazuje koji učenici ne obraćaju pozornost i sve ostale koji su komunicirali, izgradili ili koristili ove tehnologije.
RFI stavlja tehnologiju temeljenu na biometrijskoj tehnologiji u središte pozornosti
RFI nastoji razumjeti kako se sustavi za prepoznavanje lica i glasa, prepoznavanje hoda, smetnje i analiza pritiska na tipku koriste u različitim kontekstima, uključujući zapošljavanje, obrazovanje i oglašavanje. RFI posebno traži povratne informacije u tih šest područja:
- 1. Kako se biometrijske informacije upotrebljavaju ili se mogu koristiti za pojedinačno prepoznavanje ili zaključivanje, uključujući ciljeve takve uporabe, izvor upotrijebljenih podataka i sve zajednice s kojima se utječe;
- 2. Postupci i rezultati znanstvene validacije biometrijskih tehnologija i rezultati znanstvene validacije biometrijskih tehnologija. OSTP također pozdravlja informacije o istraživanju korisnika, procjeni učinka i sociokoncentualnoj evaluaciji;
- 3. Sigurnosna razmatranja povezana s biometrijskom tehnologijom, kao što su način na koji je potvrđena tehnološka sigurnost i sve poznate ranjivosti u tehnologiji ili temeljnim podacima. Potiču se primjeri učinkovitih sigurnosnih zaštitnih mjera;
- 4. Dokazane i potencijalne štete biometrijske tehnologije, uključujući štete zbog mogućih problema s valjanošću sustava koji se upotrebljavaju za generiranje biometrijskih podataka ili zaključaka, različitog utjecaja na različite demografske skupine, selektivnih ishoda profiliranja, pogrešne primjene ili zlouporabe tehnologije te rizika za privatnost;
- 5. Prednosti biometrijske tehnologije, uključujući usporedbe s postojećim sustavima i potencijalna poboljšanja troškova, dosljednosti i pouzdanosti; i
- 6. Programi, prakse ili postupci upravljanja primjenjivi na uporabu biometrijske tehnologije, uključujući one koji se odnose na (a) sudjelovanje dionika u oblikovanju sustava, (b) tehnološka ispitivanja, (c) prikupljanje podataka, upravljanje i pohranu podataka, (d) zaštitne mjere za uporabu tehnologije, (e) reviziju i procjene učinka nakon uvođenja, (f) uporabu biometrijskih tehnologija u kombinaciji s drugim tehnologijama nadzora, (g) dopuštenost na sudu generiranih ili proširenih biometrijskih informacija sustavima umjetne inteligencije i (h) praksama javne transparentnosti.
Javni komentari prihvaćeni do siječnja 2022.
Komentari su objavljeni 15. siječnja 2022. Zainteresirane strane trebale bi razmotriti podnošenje primjedbi kako bi se osiguralo da OSTP prima opsežne povratne informacije i da ima dovoljnu osnovu za donošenje informiranih odluka koje se temelje na riziku, posebno u izradi umjetne inteligencije i biometrijske “povelje o pravima”.
Ovaj se članak također pojavio u Bilten o umjetnoj inteligenciji i vjeri prosinac 2021.. Naši urednici odlučili su ovdje predstaviti ovaj članak zbog podudaranja s temom.
FUSNOTE
1 OSTP djeluje kao savjetnik “predsjednika i drugih unutar Izvršnog ureda predsjednika o učincima znanosti i tehnologije na unutarnje i međunarodne poslove” i vodi “međuagencijske napore za razvoj i provedbu zdravih znanstvenih i tehnoloških politika”.
2 Eric Lander je 2. lipnja 2021. položio prisegu kao trenutni direktor OSTP-a, kolokvijalno poznatog kao znanstveni savjetnik predsjednika. Alondra Nelson je zamjenica direktora za znanost i društvo u okviru OSTP-a.
3 Osim razvojnih napora okvira umjetne inteligencije, OSTP radi na razvoju zajedničke istraživačke infrastrukture kako bi se omogućila suradnja među znanstvenim disciplinama. U srpnju 2021. godine OSTP i Nacionalna zaklada za znanost (NSF) izdali su “usmjeren na istraživanje”Zahtjev za informacijama (RFI) o provedbenom planu za nacionalni istraživački resurs umjetne inteligencije.” Razdoblje za komentare završilo je 1. listopada 2021., a primljeni podaci “informirat će rad Radne skupine nacionalnog istraživačkog resursa za umjetnu inteligenciju (NAIRR)”.
4 U 2016. godini Obamina administracija objavila je dva izvješća, Priprema za budućnost umjetne inteligencije i Nacionalni strateški plan za istraživanje i razvoj umjetne inteligencijei izdao zahtjev za informacijama (RFI), koja se uglavnom usredotočila na politiku umjetne inteligencije, ali je naglasila “pitanja sigurnosti i kontrole umjetne inteligencije” i “socijalne i ekonomske implikacije umjetne inteligencije” – slično RFI-ju Bidenove administracije objavljenom ovog mjeseca.
Izvor: Davis Wright Tremaine LLP
Dodatak redakcije: Uzmite u obzir da digitalnoj Povelji o pravima plješće i Svjetski ekonomski forum (prevedeno Google alatima)
Tko je Eric Lander (Unlimited Hangout – članak preveden Google alatima)
