uredi› krajšaj› T:1066 M:1550 Z:11 [×]

Kitajska je predstavila novi zakon o sistemu družbenega ocenjevanja

Lažje bi opisali, kaj kitajski sistem družbenega ocenjevanja NI, kot kaj JE. Vse od leta 2014, ko je Kitajska predstavila šestletni načrt za vzpostavitev sistema, po katerem bi nagrajevala dejanja, ki krepijo zaupanje v družbi, in kaznovala tista, ki ga spodkopavajo, je to v razpravah na Zahodu najbolj napačno interpretirana tema, povezana s Kitajsko. Sredi novembra je objavila nove dokumente, kar je priložnost, da se ta napaka popravi.

Zeyi Yang, MIT Technology Review

Večina ljudi, ki ne živi na Kitajskem, ob izrazu sistem družbenega ocenjevanja takoj pomisli na mrežo tehnologij, ki samodejno ocenjujejo vse kitajske državljane glede na to, kaj so storili prav in kje so grešili. V resnici tako srhljivega sistema ni in nič ne kaže, da bi si ga vlada tudi želela vzpostaviti.

Sistem, ki ga država postopno gradi, je namreč mešanica poskusov, da bi uredili panogo financiranja, omogočili vladnim agencijam medsebojno izmenjavo podatkov in spodbujali moralne vrednote, ki jih poudarja država – naj ta zadnji namen zveni še tako ohlapno. Ni še dokazov, da bi ta sistem zlorabljali za splošen nadzor nad družbo (vendar ni izključeno, da z njim ne omejujejo pravic posameznikov).

Lokalne oblasti so s svojimi inovativnimi predpisi precej bolj zagnane in sprožajo več ugovorov ter nasprotovanja javnosti, medtem ko je do vsesplošnega sistema družbenega ocenjevanja še dolga pot. Zdaj je država pri snovanju njegove končne izvedbe naredila še en korak naprej. Več najpomembnejših vladnih uradov je tako 14. novembra 2022 skupaj objavilo osnutek zakona o oblikovanju sistema družbenega ocenjevanja, kar je prvi poskus sistematične ureditve preteklih različic in hkrati teoretičnih smernic za uveljavitev nekoč v prihodnosti.

Kakorkoli že, ob osnutku se poraja več vprašanj, kot lahko ponudi odgovorov.

»Osnutek ne prinaša bistvenih sprememb,« je pripomnil Jeremy Daum, stalni raziskovalec v središču Paul Tsai China Center na pravni fakulteti Yale, ki že leta spremlja kitajske poskuse s sistemom družbenega ocenjevanja. Poudarja, da ni mogoče govoriti o prelomnem zasuku pri strategiji in ciljih.

Osnutek je tako podoben lokalnim predpisom, ki so jih sprejela kitajska mesta, med drugimi Šanghaj, in jih zadnja leta uporabljala na področjih, kot so zbiranje podatkov in kaznovalne metode, le da zdaj dobivajo blagoslov države. Prav tako ne odgovarja na vztrajne pomisleke, ki jih o lokalnih omejitvah izražajo strokovnjaki. »Osnutek vključuje, kar je že nekaj časa v veljavi, in ne prinaša velikih izboljšav,« je dodal Daum.

Kakšen je v resnici veljavni kitajski sistem? Ljudje res dobivajo ocene? Se v zahodnih predstavah o družbenem nadzoru ob pomoči umetne inteligence skriva vsaj zrno resnice?

Kaj sploh je družbeno ocenjevanje?

Kitajska vlada pod družbenim ocenjevanjem razume dvoje: tradicionalno oceno kreditne sposobnosti in »družbeno boniteto« na podlagi podatkov z različnih področij.

Prva ocena je na Zahodu nekaj običajnega in dokumentira finančno zgodovino posameznika ali podjetja, hkrati pa napoveduje njihovo zmožnost odplačevanja prihodnjih dolgov. Ker je tržno gospodarstvo sodobne Kitajske veliko mlajše, država nima zanesljivega sistema, na podlagi katerega bi lahko preverila finančno zgodovino oseb in podjetij. Vzpostavitev takšnega sistema za pomoč bankam in drugim udeležencem na trgu pri sprejemanju poslovnih odločitev je pomembna in gotovo ne kontroverzna naloga. V kitajskih dokumentih to vrsto ocenjevanja večinoma omenjajo s posebnim izrazom, ki ga nekateri strokovnjaki prevajajo kot kreditni izkaz 征信” (zhengxin).

Večje dvome vzbuja »družbena boniteta«, drugi način ocenjevanja. Povedano preprosto, kitajska vlada meni, da je treba okrepiti zaupanje v družbi. Da bi se tudi ohranilo, bi se morala učinkovito spopasti s korupcijo, telekomunikacijskimi prevarami, z davčnimi utajami, zavajajočim oglaševanjem, s plagiatorstvom v akademskih krogih, ponarejanjem izdelkov, z onesnaževanjem … torej s tako rekoč vsem. Odgovornost morajo poleg posameznikov in podjetij prevzemati tudi pravne ustanove in vladne agencije.

Na tej točki se začne zmeda. Vlada je očitno prepričana, da so vse te težave nekako povezane tudi s pomanjkanjem zaupanja, zato njegova krepitev pomeni univerzalno rešitev za vse. In tako kot kreditna ocena pomaga ocenjevati zmožnost poravnavanja finančnih obveznosti, zagovarja mnenje, da bi družbeno ocenjevanje pomagalo pri presoji, ali je oseba vredna zaupanja tudi na drugih področjih.

Družbeno ocenjevanje je zato v razpravah pogosto povezano s kreditno oceno, čeprav gre za veliko novejše področje z zelo malo zgledi iz drugih držav.

K še večji zmedi pa pripomore, da lokalne oblasti včasih to dvoje mešajo, zato je mogoče naleteti na predpis, v katerem je govora o tem, kako bodo dejavnosti, ki niso povezane z denarjem, vplivale na oceno kreditne sposobnosti, in obratno. (V provinci Liaoning so avgusta povedali, da tuhtajo, kako v kreditni oceni upoštevati krvodajalstvo.)

Na državni ravni bi vlada to dvoje očitno ločevala in novi osnutek dejansko prinaša dva nabora pravil.

Ali vlada vzpostavlja sistem, ki dejansko ureja oba tipa ocene?

Kratki odgovor se glasi: ne. Sprva, torej leta 2014, so načrtovali, da bo državni sistem sledenja vsem »bonitetnim ocenam« vzpostavljen leta 2020, zdaj pa smo že skoraj 2023, pa so dolgo pričakovani zakonski okvir za sistem v obliki osnutka zakona predstavili šele pred mesecem dni.

Poleg tega je vlada največ pozornosti posvetila le finančni plati. Sistem ocenjevanja kreditne sposobnosti, ki so ga javnosti prvič predstavili 2006 in pomembno posodobili 2020, je bolj ali manj kitajska ustreznica ameriškega sistema, vzdržuje pa ga centralna banka. Spremlja finančno zgodovino 1,14 milijarde Kitajcev (in jih kreditno oceni) ter skoraj sto milijonov podjetij (vendar jih ne ocenjuje).

Kar se tiče družbenega ocenjevanja, pa so predpisi pomanjkljivi in ohlapni. Vlada je za zdaj vzpostavila le sistem, osredotočen na podjetja, ne posameznike, in v bistvu združuje podatke različnih organov in uradov, v kakšni meri podjetje spoštuje predpise. Kendra Schaefer, vodja raziskav tehnološke politike v svetovalnem podjetju Trivium China s sedežem v Pekingu, ga je v poročilu za ameriško kitajsko komisijo za oceno gospodarstva in varnosti, ki deluje pri ameriški vladi, opisala kot približek tega, kar na skupni platformi delijo različne ameriške agencije, davčna uprava, FBI, ministrstvo za energijo, ministrstvo za izobraževanje, sodišča, policijske postaje in večja javna podjetja. Sad tega je podatkovna zbirka na spletni strani z imenom Credit China, dostopna vsem kitajskim državljanom.

Na tej spletni strani so kljub vsemu tudi nekateri podatki o ljudeh in različnih organizacijah. Služi namreč tudi kot osrednji portal za skoraj 40 (tudi zelo specifičnih) podatkovnih zbirk, vključno s seznamom oseb, ki so prekršile sodne odločbe in razsodbe, kitajskih univerz, ki delujejo zakonito, podjetij, ki smejo sestavljati robote, in bolnišnic, ki so zagrešile zavarovalniške goljufije. Urejanje strani se zdi precej naključno, zato si je težko predstavljati, da bi jo bilo mogoče uporabljati kot zanesljiv in bogat vir podatkov.

Kako bo sistem družbenega ocenjevanja vplival na vsakdanje življenje Kitajcev?

Deloval naj bi kot palica in korenček, tako da bi bil posameznik (ali podjetje) z dobro oceno na vseh zakonodajnih področjih deležen ugodnejše obravnave, ko bo imel opraviti z državnimi organi – recimo da bo uvrščen na prednostni seznam za nadomestila. Hkrati bi tiste s slabo oceno doletela kazen, in sicer bi podatke o njih javno objavili in prepovedali bi jim sodelovanje na državnih razpisih, nakup luksuznih izdelkov in potovanje iz države.

Vlada je lani objavila dolg seznam z odobrenimi kazenskimi ukrepi. Nekateri so spornejši, na primer ta, da se osebi, ki ni plačala sodno določene odškodnine, prepove potovanje z letalom in vpis otrok na drage zasebne šole (ker to velja za luksuz). V novem osnutku je predvideno, da se bo seznam redno dopolnjeval.

Torej obstaja centralizirana družbena ocena, izračunana za vsakega kitajskega državljana?

Ne. V nasprotju s splošnim prepričanjem ni družbene ocene za posameznike. Dodati je treba, da je vlada niti ni nikoli omenjala.

Zakaj torej ljudje, sploh na Zahodu, mislijo, da obstaja?

Ker centralna vlada niti v zadnjem osnutku zakona ni posredovala uporabnih navodil, kako vzpostaviti sistem družbenega ocenjevanja, primeren za nefinančna področja, je mestom, tudi manjšim, odprla vrata za eksperimentiranje z lastnimi rešitvami.

Tako številne lokalne oblasti uvajajo pilotske programe, v okviru katerih poskušajo tudi definirati predpise, ki bi urejali to ocenjevanje, in nekateri veljajo za skrajno sporne.

Najboljši primer je za kitajske razmere majhno mesto Rongčeng s pol milijona prebivalcev, ki je uvedel verjetno najslavnejši sistem družbenega ocenjevanja na svetu. Leta 2013 je mesto vsakemu prebivalcu podelilo izhodiščno osebno oceno 1.000, na katero potem vplivajo dobra in slaba dejanja. Leta 2016 je še veljal predpis (ki so ga potem preklicali), po katerem so odšteli 50 točk tistemu, ki je v klepetalnicah, na forumih in blogih širil škodljive informacije, medtem ko je zmaga na športnem ali kulturnem področju na državni ravni prinesla novih 40 točk. V nekem skrajnem primeru je prebivalec v treh tednih izgubil 950 točk, ker je na spletu večkrat objavil pisma v zvezi s sporom z zdravnikom.

Ti sistemi imajo zelo omejen vpliv, saj niso prešli niti na raven province, kaj šele države. A ko se novice o poskusnih programih, kot je bil ta v Rongčengu, razširijo na Zahod, seveda sprožijo alarm pri aktivistih in medijih – nekateri so zmotno mislili, da veljajo za vso državo. K napačnim predstavam so še dodatno pripomogle znane osebnosti, kot sta George Soros in Mike Pence.

Kako vemo, da pilotski programi ne bodo postali uradni predpisi za vso državo?

Nihče ne more tega napovedati stoodstotno zanesljivo, a treba je spomniti, da kitajska centralna vlada pravzaprav zavira lokalne oblasti pri pretirano strogih predpisih na področju družbenega ocenjevanja.

Decembra 2020 je kitajski državni svet po poročilih, da lokalne oblasti sistem zlorabljajo kot izgovor za kaznovanje celo banalnih prekrškov, kot so prečkanje ceste zunaj prehoda, napake pri ločevanju odpadkov in neuporaba maske, objavil uradne smernice za izvajanje predpisov. Smernice od lokalnih oblasti pričakujejo, da se kaznuje le tisto, kar je že protizakonito v trenutnih kitajskih zakonih, in zapovedujejo, naj prepovedi ne širijo onkraj njih.

»Ko so se (številne lokalne oblasti) soočile z vprašanji, ki jih je težko urediti s predpisi, veljavnimi za poslovanje podjetij, so poskusile z rešitvami, ki vključujejo tudi družbeno oceno,« je na tiskovni konferenci 25. decembra 2020 povedal Lian Weiliang, predstavnik najpomembnejšega kitajskega urada za gospodarsko načrtovanje. »Ti ukrepi niso le neskladni z zakoni, temveč tudi nezdružljivi z dolgoročno krepitvijo verodostojnosti.«

Posredovanje vlade se je očitno obrestovalo. Mesto Rongčeng je prilagodilo lokalne predpise v zvezi z družbenim ocenjevanjem in meščanom omogočilo, da so izstopili iz programa, ukinilo je tudi nekaj spornih pogojev za spremembo ocene.

Ali si sistem pomaga z napredno tehnologijo, kot je umetna inteligenca?

Večinoma ne. To je še ena razširjena zmota o kitajskem sistemu družbenega ocenjevanja. Ljudje si predstavljajo, da je vedenje več kot milijarde ljudi mogoče spremljati le z izjemno zmogljivim osrednjim algoritmom, ki lahko zbira in obdeluje podatke, a to ne drži. Ker centralni sistem ocenjevanja ne obstaja, ni niti potrebe po zmogljivem algoritmu. Poznavalci kitajskega sistema DO pravijo, da je celotna infrastruktura presenetljivo preprosta. Kitajski uradni predstavniki resda občasno opletajo z imeni tehnologij, na primer verigo blokov in umetno inteligenco, ko pojasnjujejo kaj v zvezi s sistemom, nikoli pa podrobno ne opišejo, kako naj bi te tehnologije uporabljali. Če preverite spletno stran Credit China, je to le digitalizirana knjižnica različnih podatkovnih zbirk.

»Ne poznam primera, da bi avtomatizirano zbiranje podatkov vodilo v avtomatizirano izrekanje kazni brez človeškega posredovanja,« je Schaefer napisal v svojem poročilu. Včasih je človeško posredovanje izrazito preprosto, na primer tako imenovani zbiralci podatkov v Rongčengu, ki hodijo po vasi in ročno beležijo dobra dejanja svojih sovaščanov.

Vendar se s širjenjem državnega sistema dejansko pojavlja potreba po nekakšnem tehnološkem elementu, večinoma za to, da bi se pobirali podatki iz posameznih vladnih organov, uradov in agencij. Če bi Peking vsakemu od njih želel omogočiti, da sprejema zakonske odločitve na podlagi podatkov, zbranih v drugi uradni organizaciji, bi moral zgraditi zmogljivo infrastrukturo za shranjevanje, izmenjavo in obdelavo podatkov. Nedavni osnutek zato poudarja potrebo po uporabi različnih metod, na primer statističnih, modeliranja in certificiranja na terenu, da bi omogočili ocenjevanje in združevanje podatkov iz različnih agencij in organov. »To precej medlo namiguje, da je posredi tudi nekaj tehnologije,« je komentiral Daum.

Kako v tem sistemu sodelujejo kitajska tehnološka podjetja?

Ker je sistem tehnološko tako preprost, je sodelovanje podjetij le obrobno. »Velika in majhna tehnološka podjetja igrajo zelo različne vloge in imajo drugačne strategije,« je pojasnila Shazeda Ahmed, podoktorska raziskovalka na univerzi Princeton, ki je več let preučevala vpletenost kitajskih tehnoloških podjetij v sistem družbenega ocenjevanja.

Manjša podjetja, ki jih najame mesto oziroma oblast neke province, so večinoma poskrbela za tehnično infrastrukturo, kot so podatkovne zbirke in podatkovna središča, velika, predvsem družbene platforme, pa so pomagala pri seznanjanju z namenom tega sistema. Alibaba, denimo, pomaga sodiščem pri pošiljanju razsodb na naslove, ki jih zbira na svoji veliki platformi za spletno nakupovanje. Douyin, kitajska različica Tiktoka, se je povezal z lokalnim sodiščem in javno objavlja imena tistih, ki niso spoštovali razsodbe sodišča. A niti prvi niti drugi tehnološki velikan nista vpletena v jedrne dejavnosti, kot sta zbiranje podatkov in izdelava mnenj, ki pomagajo pri ocenjevanju.

»Svoje sodelovanje razumejo skoraj kot državljansko dolžnost ali družbeno odgovornost podjetja: če si prekršil zakon, bomo dobili podatke s sodišča in te kaznovali na svoji platformi,« je njihovo delovanje opisala Ahmedova.

Nekatera kitajska podjetja, na primer Alibabina podružnica Ant Group, so razvila lastne produkte za zasebno ocenjevanje kreditne sposobnosti. No, rezultat podobno kot Alibabin Sesame Credit bolj spominja na program zvestobe, pripominjajo nekateri poznavalci. Ker Sesame Credit temelji predvsem na zgodovini nakupov in posojil na Alibabinih platformah, ocena ni dovolj zanesljiva za finančne ustanove in ima na posameznika zelo omejen vpliv.

Bi nas glede na vse zapisano moralo kljub temu skrbeti, kakšne posledice bi imela vzpostavitev sistema družbenega ocenjevanja na Kitajskem?

Da. Tudi če ne obstaja srhljiv algoritem, s katerim bi ocenjevali vsakega posameznega državljana, je takšen sistem kljub vsemu lahko sporen.

Kitajska vlada je sicer poudarila, da mora biti kazen, povezana z družbenim ocenjevanjem, v skladu z veljavno zakonodajo, vendar je že ta lahko nepravična. »Zatrjevanje, da je sistem podaljšek zakona, lahko pomeni le, da ni nič boljši ali slabši od zakonov, ki jih izvršuje. Ker je Kitajska vse bolj osredotočena na družabno in kulturno življenje državljanov in še obširneje regulira vsebine na področju zabave, izobraževanja in svobode govora, bodo tudi ti zakoni in predpisi odvisni od uveljavljanja sistema ocenjevanja,« je Daum zapisal v članku iz leta 2021.

»Poleg tega je že od začetka v ospredju, da so ljudje pošteni do države, ne pa nujno tudi drug do drugega,« je še izpostavila Ahmedova. Ko se moralna vprašanja, kot je poštenost, sprevržejo v pravno vprašanje, država postane edina pristojna za odločanje, kdo je zaupanja vreden. Ena od taktik kitajskih sodišč, da »diskreditiranega posameznika« pokličejo na odgovornost, je spodbujanje prijateljev in sorodnikov, naj v zameno za nagrado poročajo o njegovem premoženjskem stanju. »Bo družba postala zaupanja vredna, če bomo tožarili svoje sosede? Ni to sejanje nezaupanja v najožji skupnosti?« se sprašuje Ahmedova.

Kakorkoli že, sistem družbenega ocenjevanja (za zdaj) ne predstavlja zlorabe naprednih tehnologij, kot je umetna inteligenca, in soditi ga moramo na podlagi dejstev. Vlada je po objavi osnutka zakona mesec dni zbirala odzive javnosti, ni pa znano, kdaj bo glasovala o osnutku in bo postal zakon. Lahko bodo minila leta, preden bo predstavila končno različico vsedržavnega sistema družbenega ocenjevanja.

Copyright Technology Review, distribucija Tribune Content Agency