uredi› krajšaj› T:411 M:587 Z:11 [×]

Pandemija pomeni tudi preizkus meja pri prepoznavi obraza

Ameriški državni organi in zasebna podjetja prepoznavo obraza uporabljajo že leta; uporaba tehnologije pri deljenju državne pomoči pa se je med pandemijo hitro razmahnila. Vendar – kaj se zgodi, kadar odpove?

Mia Sato, MIT Technology Review

J. B., transspolna oseba iz Los Angelesa, ki ne želi biti omenjena s polnim imenom, ni že na prvi pogled podobna fotografiji v vozniškem dovoljenju. Prvič, ta fotografija je stara nekaj let, na njej ima dolge in temne lase, ki so zdaj postriženi na ježka in pobeljeni. Poleg tega oseba dve leti jemlje testosteron, zaradi česar so se ji spremenile obrazne poteze, dobila je gostejše obrvi in akne.

Ko so v Združenih državah Amerike marca lani prvič zaprli javno življenje, je oseba J. B. izgubila službo v trgovini za polovični delovni čas. Tako kot nekaj milijonov drugih Američanov je poskusila zaprositi za nadomestilo za brezposelnost in ni niti slutila, da jo bo pri tem ovirala drugačna zunanjost. Več mesecev po elektronski vlogi in nekaj klicih na objavljeno telefonsko številko, kjer pa ni prišla do sogovornika, so jo končno pozvali, naj uporabi kalifornijski sistem za prepoznavo obraza in tako potrdi svojo istovetnost. A kljub večkratnim poskusom sistem obraza J. B. ni zmogel povezati s fotografijo v osebnem dokumentu, zato tudi ni dobila pravice do nadomestila. Sčasoma je odnehala, saj jo je postopek spravljal v obup.

Tako zvezne države kot uradi so prepoznavo obraza začeli uporabljati kot način za brezstično in samodejno potrjevanje istovetnosti ljudi, ki so zaprosili za nadomestilo za brezposelnost in druge oblike državne pomoči. Strokovnjake in aktiviste skrbi, da bi zaradi napak te tehnologije ljudje ostali brez pomoči, ki jo krvavo potrebujejo – in da bi še večja nevarnost grozila, če bi delovala brezhibno.

Uporaba obraza za najrazličnejše namene

Zaradi pandemije se je hitro razširila uporaba številnih oblik biometričnega zbiranja podatkov – preverjanje temperature na vhodu, toplotne kamere v šoli, skeniranje obraza na letališčih. Pri nadomestilih, recimo za brezposelnost, so se posamezne zvezne države opirale predvsem na prepoznavo obraza, s čimer so preverile istovetnost prosilcev, preden so jim odobrile pomoč. Drugi sveženj pomoči v ZDA, ki so ga potrdili decembra lani, je od zveznih držav zahteval, da preverijo prosilce za pomoč v primeru brezposelnosti zaradi pandemije, ki jo nakazujejo iz zvezne blagajne.

Danes 27 zavodov za brezposelne (med njimi je tudi kalifornijski) sodeluje s podjetjem ID.me, ki ponuja tehnologijo za prepoznavo obraza, je povedal direktor Blake Hall. Ameriško ministrstvo za delo je zveznim državam nakazalo milijone za uvedbo ukrepov za preprečevanje goljufij, s čimer je bilo na voljo tudi več sredstev za prepoznavo obraza. V zadnjih mesecih pa je iz vse države slišati poročila o incidentih, ko sistem za nadomestilo za brezposelnost ni prepoznal prosilčevega obraza, in številni ljudje so se zato znašli v hudi finančni stiski. Tveganje za neuspešno prepoznavo ni porazdeljeno enakomerno: dokazano je, da je prepoznava obraza natančnejša pri svetlopoltih ljudeh in pri moških bolj kot pri ženskah, je pokazala zvezna raziskava, objavljena 2019. Ugotovitve so v lanski raziskavi še nadgradili.

Hall pravi, da v vzorcu 700 uporabnikov ID.me ni našel povezave med barvo kože in verjetnostjo za neuspešno iskanje ujemanja konkretnega obraza.

Programska oprema za prepoznavo obraza je postajala vse bolj razširjena že leta pred pandemijo in njene pomanjkljivosti so podrobno popisali. Novinarji so razkrili, da so policijske postaje po vseh ZDA med preiskavami uporabljale tudi ogromne podatkovne zbirke obrazov, čeprav je bila njihova natančnost vprašljiva. Podjetja so se odpovedala uporabi tehnologije ali jo omejila zaradi dokazov, da ni tako natančna pri ljudeh, ki niso svetlopolti. Kakorkoli že, njeno širjenje se nadaljuje, drugi zvezni uradi načrtujejo širitev njene uporabe, nabavili pa so jo tudi marsikje drugje, od nakupovalnih središč do koncertnih prizorišč. Lani so zaradi domnevne uporabe prepoznave obraza pri kupcih tožili trgovino Macy's. A kritike še posebej skrbi s pandemijo povezana uporaba tehnologije za preverjanje zadev, kot je upravičenost do nadomestil.

»Včasih ne morem spati, ker se bo ta tehnologija zaradi pandemije hitro razširila vsepovsod,« je potožila Evan Greer, direktorica skupine za digitalne pravice Fight for the Future. »Namestili jo bodo v trgovinah, celo plačati bo mogoče z obrazom. Na sredstvih javnega prevoza bo preverjanje obraza nekaj normalnega, uporabili jo bodo tudi na razgovorih za delovno mesto.«

Vse pogosteje jo uporabljajo tudi v interesu javnega zdravja, kot pravijo temu. Avstralija je pred kratkim razširila program s prepoznavo obraza za uveljavljanje ukrepov proti covidu 19. Ljudi v karanteni naključno preverjajo, in sicer morajo poslati selfi, s katerim potrdijo, da upoštevajo navodila. Kot so zapisali pri Reutersu, zbirajo tudi podatke o lokaciji.

Ko gre za nujne življenjske situacije, kot so nadomestila za plačilo najemnine, položnic in hrane, bi morali predvsem poskrbeti, da imajo vsi dostop do pomoči, je poudarila Greerjeva. Preprečevanje goljufij se na prvi pogled zdi smotrno, je dodala, vendar je daleč najpomembnejši cilj ljudem dodeliti pomoč, ki jo potrebujejo.

»Treba je vzpostaviti sisteme, v katerih bomo od samega začetka upoštevali tudi človekove pravice in potrebe ranljivih ljudi. Ne moremo se s tem ukvarjati naknadno,« je pojasnila Greerjeva. »Popravki niso dovolj, ko se enkrat zalomi.«

Hall iz podjetja ID.me pravi, da so njihove storitve boljše v primerjavi z obstoječimi metodami preverjanja istovetnosti in so zveznim državam pomagale preprečiti množično goljufanje pri nadomestilih za brezposelnost, odkar so uvedle preverjanje na podlagi prepoznave obraza. Povedal je, da so odobrili 92 odstotkov vlog za nadomestilo za brezposelnost – sami ali prek video klica s predstavnikom ID.me.

»To je bil naš izhodiščni cilj,« je pojasnil. »Če bi lahko avtomatizirali devet desetin vlog, se s tem prihranjeni viri lahko porabijo za nudenje osebne pomoči preostali desetini.«

Če uporabnikom ne uspe dokončati postopka s prepoznavo obraza, jim ID.me pošlje elektronsko sporočilo, da ugotovi, kaj se je zgodilo, je povedal Hall.

»Našemu podjetju gre v prvi vrsti za to, da pomagamo ljudem dostopati do nadomestil, do katerih so upravičeni,« je razložil.

Tehnologija v resničnem svetu

Meseci, ki jih je zgoraj omenjena oseba s kraticama J. B. preživela brez prihodkov, so bili naporni. Zaradi finančnih skrbi je občutila veliko stisko, ki se je še povečala zaradi drugih težav, na primer okvarjenega računalnika. Celo nekdanji delodajalec ji ni mogel ali želel pomagati skozi birokracijo.

»Če ti nihče ne priskoči na pomoč, se počutiš povsem odrinjenega,« je potožila.

Kot poudarjajo strokovnjaki, ki delajo v državni upravi, je povsem logično, da je pandemija pospešila uporabo novih tehnologij, vendar primeri, kot je oseba J. B., kažejo, da sama tehnologija ne more ponuditi vseh rešitev. Anne L. Washington, asistentka, ki na newyorški univerzi predava o politiki na področju podatkov, pravi, da bi marsikoga premamilo in bi novo tehnologijo države označil za uspešno, če v raziskovalni fazi večinoma dobro deluje, čeprav v resničnem svetu v petih odstotkih primerov pogori. Takšen rezultat primerja z igro s stoli – v prostoru s sto ljudmi bi jih pet ostalo brez sedeža.

»Zaplete se, ker države dobijo nekakšno tehnologijo, ki je 95-odstotno učinkovita, pa si domišljajo, da je težava s tem rešena,« je opozorila. V resnici je človekovo posredovanje pomembnejše kot kadarkoli oziroma kot je povedala Washingtonova: »Potrebujejo sistem, ki bo dosledno obravnaval tudi tistih pet ljudi brez stola.«

Poleg tega obstaja še dodatna vrsta tveganja, če pri tehnologiji sodeluje zasebno podjetje. Največje vprašanje pri uvajanju nove tehnologije je, kje se hranijo podatki, je opozorila Washingtonova. Brez zaupanja vredne entitete, ki je zakonsko zavezana k varovanju podatkov o ljudeh, bi občutljivi podatki lahko končali v tujih rokah. Kako bi se, na primer, počutili, če bi zvezna vlada naše številke socialnega zavarovanja zaupala zasebnemu podjetju?

»Zaplete se, ker države dobijo nekakšno tehnologijo, ki je 95-odstotno učinkovita, pa si domišljajo, da je težava s tem rešena.«

Razširjena in nenadzorovana uporaba orodij za prepoznavo obraza bi lahko že tako in tako odrinjene skupine prebivalstva prizadela bolj kot druge. Transspolne osebe, na primer, imajo pogoste težave z orodji, kot je Google Photos, ki lahko podvomijo, ali je na starejših in novejših fotografijah ista oseba. To pomeni nenehno večkratno spopadanje s programsko opremo.

»Tehnologija ni stoodstotno zmožna dojeti širine dejanske pestrosti in mejnih primerov, ki so značilni za resnični svet,« se strinja tudi Daly Barnett, tehnologinja v fundaciji Electronic Frontier. »Ne moremo se zanesti nanjo, da bo natančno razvrščala, obdelovala in izražala to prelepo raznolikost.«

Hujše od neuspeha

Pogovori o prepoznavi obraza se običajno vrtijo okrog tega, kako bi tehnologija lahko zatajila ali diskriminirala. A Barnettova spodbuja ljudi, naj razmišljajo širše od tega, ali biometrična orodja delujejo ali ne, in ali se predsodki kažejo tudi v tehnologiji. Ne strinja se niti s prepričanjem, da jih nujno potrebujemo. Aktivisti, kot je Greerjeva, opozarjajo, da bi orodja utegnila biti še nevarnejša, če bi delovala brezhibno – s prepoznavo obraza so že identificirali, kaznovali in utišali protestnike, na primer. A ljudje se ne dajo. V Hongkongu so protestniki nosili maske in očala, da so skrili obraze pred takšnim policijskim nadzorom. V ZDA so zvezni tožilci opustili pregon protestnikov, ki so jih odkrili s prepoznavo obraza in so bili obdolženi napada na policiste.

»Verjetno ni nič čudnega, da se osredotočamo na te napake in predsodke, ker to tehnologijo zdaj tudi uporabljamo,« je razložila Greerjeva. »A če to tehnologijo vnesete v družbo, ki je globoko nepravična, in četudi je sama tehnologija nevtralna oziroma nima vtisnjenih predsodkov, bo pripomogla k avtomatizaciji in poglobitvi diskriminacije.«

Fundaciji Fight for the Future in Electronic Frontier podpirata težnjo, da vlada ne bi uporabljala orodij za prepoznavo obraza. Barnettova pravi, da se vladni uradi, tudi če uporabljajo to tehnologijo, ne bi smeli opirati le na en sistem, ki odpira dostop do državnih pomoči – sploh ko ljudje zaprosijo za pomoč, brez katere ne bi mogli preživeti.

»Ni si težko predstavljati, kako bi te tehnologije, čeprav so bile razvite dobronamerno, iz najrazličnejših razlogov lahko pozneje zlorabili kot orožje proti ljudem,« dodaja.

Ljudem z obrobja zapleti zaradi prepoznave obraza že zdaj povzročajo težave. Več kot leto dni po tistem, ko je oseba J. B. prvič zaprosila za nadomestila za brezposelnost, se še vedno živo spominja vseh podrobnosti tega napornega postopka in prav oddahnila si je, ko je veljavnost vloge spomladi potekla. Od nedavnega spet dela in po dolgem času se ji zdi, da spet lahko zaživi.

»Končno si lahko spet uredim življenje,« je povedala oseba J. B. »Res me veseli, da se mi ni treba več ubadati s sistemom. Srčno upam, da se mi ne bo nikoli več treba bosti z njim.«

Copyright Technology Review, distribucija Tribune Content Agency.