uredi› krajšaj› T:137 M:393 Z: [×]

Veliki paradoks umetne inteligence

Naj vas ne skrbi, da bi superpametna umetna inteligenca odpravila vsa delovna mesta. To je samo zamegljevanje težav, ki jih povzročajo celo razmeroma neumni računalniki.

Brian Bergstein, MIT Technology Review

Verjetno ste že vsi slišali za različice spodnjih dveh videnj:

• Ko bodo računalniki postali neverjetno spretni v vožnji, razumevanju govora in drugih opravilih, bi lahko kmalu avtomatizirali več delovnih mest, kot družba lahko prenese.

• Izboljšave računalniških zmožnosti se bodo nadaljevale, dokler stroji ne bodo veliko pametnejši od ljudi. Zaradi te superinteligence bo človeško delo bolj ali manj nepotrebno. Pravzaprav bi morali upati, da nas stroji ne bodo v celoti izločili, naj bo ponesreči ali namenoma.

Kočljivo. Čeprav se prvi scenarij že odvija, ne bo nujno vodil k drugemu. Druga predstava temelji na trhlih domnevah, čeprav so z njo obsedeni tudi ljudje, ki veliko vedo in razmišljajo. Predvsem pa nas skuša odvrniti od tega, da bi prevzeli večjo odgovornost za posledice trenutne ravni avtomatizacije in se začeli ubadati s koncentracijo moči v tehnološki panogi.

Če hočemo dejansko videti, kaj se dogaja z umetno inteligenco, moramo razjasniti, kaj je že bilo doseženo in na katerih področjih so rešitve še daleč.

Zdrava pamet

Najosupljivejši dosežki računalništva v zadnjih letih – samovozeči avtomobili, stroji, ki natančno prepoznavajo podobe in govor, računalniki, ki premagajo najboljše igralce zapletenih iger, kot je go – izvirajo iz prelomnih odkritij v posebni veji umetne inteligence, to je prilagodljivo strojno učenje. Kot je računalniški strokovnjak Hector Levesque s torontske univerze pojasnil v svoji knjigi Common Sense, the Turing Test, and the Quest for Real AI (Zdrava pamet, Turingov test in iskanje prave umetne inteligence), je izhodišče prilagodljivega strojnega učenja doseči, da bi se računalniški sistem naučil inteligentnega vedenja z učenjem na podlagi velikanskih količin podatkov.

Patrick Winston, predavatelj o umetni inteligenci in računalništvu na massachusetskem tehnološkem institutu, pravi, da bi dosežke v preteklih nekaj letih bolj upravičeno pripisali računalniški statistiki kot umetni inteligenci.

Neverjetno, da lahko stroji odkrivajo predmete, prevajajo iz enega jezika v drugega in celo napišejo računalniški kod, potem ko vanje vnesejo primere takega početja, namesto da bi jih vnaprej sprogramirali za to. To pravzaprav še pred desetimi leti ni bilo mogoče, ker ni bilo dovolj digitalnih podatkov za učenje, in četudi bi jih bilo, ni bilo dovolj računalniških konjskih moči, da bi jih lahko predelale. Ko računalnik odkrije vzorec v podatkih, ob pomoči programskih algoritmov pride do sklepov na podlagi vzorcev in ustrezno ukrepa. To se zgodi, ko avtomobil analizira vhodne podatke iz več senzorjev in pri strojni obdelavi vsake poteze v milijonih partijah igre go.

Ker zmorejo stroji obdelati nadčloveške količine podatkov, lahko razumete, zakaj bi v večini okoliščin utegnili voziti varneje kot ljudje in zakaj lahko porazijo prvaka v goju. To je obenem tudi razlog, zakaj računalniki postajajo celo boljši pri opravilih, ki so za človeka pravzaprav neizvedljiva, na primer povezati genom in na desetine drugih bioloških spremenljivk z zdravili, ki imajo najboljše možnosti, da pozdravijo raka pri konkretnem bolniku.

Kljub temu je to le delček tega, kar bi upravičeno lahko opisali kot pravo umetno inteligenco. Patrick Winston, predavatelj o umetni inteligenci in računalništvu na massachusetskem tehnološkem institutu, pravi, da bi dosežke v preteklih nekaj letih bolj upravičeno pripisali računalniški statistiki kot umetni inteligenci. Eden vodilnih raziskovalcev na tem področju, Yann LeCun, Facebookov direktor umetne inteligence, je na konferenci o prihodnosti dela, ki so jo novembra lani priredili na MIT, povedal, da stroji še zdaleč nimajo tistega, kar bi lahko označili za bistvo inteligence. To vključuje zmožnost dovolj dobrega razumevanja fizičnega sveta, da lahko predvidijo osnovne dogodke – opazijo nekaj in staro znanje uporabijo za to, da ugotovijo, kaj vse je še povezano s tem. Temu bi lahko rekli, da stroji nimajo zdrave pameti.

Yann LeCun, Facebookov direktor umetne inteligence, je na konferenci o prihodnosti dela, ki so jo novembra lani priredili na MIT, povedal, da stroji še zdaleč nimajo tistega, kar bi lahko označili za bistvo inteligence.

In to ni samo semantično spreobračanje besed. Med strojem, ki kaže inteligentno vedenje, naj bo to še tako uporabno, in strojem, ki je dejansko inteligenten, je velika razlika. Recimo, da je definicija inteligence nejasna. In ker računalniki postajajo vedno bolj zmogljivi, nas mika, da bi cilje postavljali vedno višje in prilagodili definicijo inteligence, da bi postala nekaj, česar stroji za zdaj še nimajo. A tudi v tem primeru bi veljalo, da računalnik, ki zmaga v goju, analizira podatke in išče vzorce. Pojma nima, da igra go, ne pa golfa, in kaj bi se zgodilo, ko bi več kot polovico plošče za go potisnili čez rob mize. Amazonovo Alexo prosite, naj vam rezervira mizo v restavraciji, katere ime ji poveste, vam bo njen sistem za prepoznavanje glasu, ki je zaradi strojnega učenja zelo natančen, prihranil nekaj časa, ko bo zahtevo vnesel v sistem rezervacij. Alexa kljub temu ne ve, kaj je restavracija in kaj pomeni jesti. Če bi jo prosili, naj vam rezervira mizo za dva ob šestih zvečer na univerzitetnem kliničnem centru, bi to poskusila urediti.

Je strojem mogoče vdahniti moč, da bi razmišljali, kot so si pred 60 leti zamislili John McCarthy, Marvin Minsky in drugi izumitelji umetne inteligence? Levesque pojasnjuje, da bi za to morali v računalnike vnesti tudi zdravo pamet in zmožnost, da fleksibilno posežejo po osnovnem znanju o svetu. Morda je to mogoče, a do tega cilja ni jasne poti. Tak podvig se dovolj razlikuje od zadnjih prelomnih dosežkov pri strojnem učenju, da si zasluži poseben naziv: dobra stara umetna inteligenca.

Amazonova Alexa vam lahko rezervira mizo v restavraciji, katere ime ji poveste, vendar kljub temu ne ve, kaj je restavracija in kaj pomeni jesti.

Če vas skrbi vsenavzočnost računalnikov, bi morali preučiti, kaj Levesque pravi o dobri stari umetni inteligenci. Informatiki še vedno niso odgovorili na temeljna vprašanja, ki so zaposlovala McCarthyja in Minskega. Kako bi računalnik lahko odkrival, kodiral in obdelal ne le gola dejstva, temveč tudi abstraktne ideje in prepričanja, ki so nujni za odkrivanje resničnih dejstev, ne da bi bila ta eksplicitno izražena?

Levesque to ponazori s primerom. Kako bi se krokodil izkazal v teku z ovirami? Ljudje s svojimi izkušnjami o svetu vedo, da krokodili ne morejo skakati čez visoke ovire, zato bi odgovorili z enim od prislovov, ki pomenijo slabo. Kaj, če bi morali na to vprašanje odgovoriti tako, kot zmore računalnik? Lahko bi pregledali vsa besedila na svetu z izrazi krokodil in tek z ovirami, v njih ne bi našli primera, da bi bila izraza navedena skupaj (razen v besedilih, ki opisujejo delo Levesqueja), in nato domnevali, da krokodil še ni tekmoval v tej disciplini. Sklepali bi, da krokodil tega ne zmore. Dober odgovor – v tem primeru. Prišli bi do pravega odgovora, ne da bi vedeli, zakaj. Uporabili bi pomanjkljivo in nezanesljivo metodo, s katero bi v marsikaterem primeru zagrešili trapasto napako.

Čeprav torej tehnologije za strojno učenje omogočajo avtomatizacij številnih nalog, ki so jih tradicionalno opravljali ljudje, so pomembne omejitve, kaj je mogoče doseči s tem pristopom – in je dober razlog, zakaj bo človeško delo nujno še dolgo časa.

Redukcionizem

Samo trenutek, si morda mislite: ker nihče nima pojma, kako stroje pripraviti do zapletenega razmišljanja, še ne pomeni, da je to nemogoče. Kaj, če bi pametne naprave nekako uporabili za razvoj še pametnejših naprav in tako dalje in tako dalje, dokler ne bi bile dovolj zmogljive, da bi lahko izdelale model čisto vsakega električnega signala in biokemične spremembe v možganih? Ali pa bodo izumili drug način za ustvarjanje fleksibilne inteligence, tudi če ta ne bo spominjala na biološke možgane. Nenazadnje, če bi se poglobili (in to res globoko), bi ugotovili, da je inteligenca nastala iz posebne razporeditve kvarkov in drugih temeljnih delcev v naših možganih. Nikjer ne piše, da so takšne razporeditve mogoče le v biološkem materialu iz ogljikovih atomov.

To je argument, ki se kot rdeča nit pojavlja v knjigi Life 3.0: Being Human in the Age of Artificial Intelligence (Življenje 3.0: biti človek v dobi umetne inteligence), avtorja Maxa Tegmarka, predavatelja fizike na MIT. Tegmark se izogiba napovedi, kdaj bomo dobili resnično inteligentne stroje, namiguje pa, da gre za vprašanje časa, saj se računalniki običajno izboljšujejo eksponentno. Na splošno je nad obetom navdušen, saj bi zavedni stroji lahko naselili vesolje in poskrbeli, da bi še vedno imelo pomen, tudi ko bi se naše sonce ohladilo in bi človeštvo umrlo.

Tegmark izhaja iz humanističnega vidika. Je soustanovitelj instituta Future of Life, ki podpira raziskave o tem, kako zagotoviti ugoden vpliv umetne inteligence. Elon Musk, ki pravi, da bi bila umetna inteligenca lahko nevarnejša od jedrskega orožja, je prispeval deset milijonov. Tegmarka upravičeno skrbi, ali bo umetna inteligenca uporabljana pametno, varno in pošteno in ali bo izkrivila naš gospodarski in družbeni ustroj. Potrudi se razložiti, zakaj ne bi smeli dovoliti avtonomnega orožja. Zato ga ne maram grajati, kljub temu pa s svojo podmeno, da bi računalniki lahko zavzeli svet, ni zelo prepričljiv.

Tegmark se pritožuje, da so nekateri opisi umetne inteligence trapasti, a bralce kljub temu prosi, naj se vživijo v pretirano poenostavljen izmišljen sestavek, kako se neverjetno zmogljiva umetna inteligenca izmakne nadzoru svojih stvariteljev. V veliki tehnološki družbi namerava elitna skupina programerjev, imenovana Omege, razviti sistem z umetno splošno inteligenco, preden bi to uspelo komu drugemu. Sistem so poimenovali Prometej in je še posebej dober v programiranju drugih sistemov umetne inteligence, o svetu pa se uči z navdušenim »branjem svetovnega spleta«.

Pustimo ob strani morebitno sprevračanje zadnjih besed – glede na to, koliko znanja ni v spletu oziroma sploh ni digitalizirano – in vse zgrešene opise sveta, ki jih človek lahko najde na Twitterju. S tem namreč še ni konec redukcionizma.

Superinteligence ne bomo dočakali, če bo Silicijevo dolino preplavilo preostalih 99 odstotkov z vilami in baklami.

Ko se Tegmarkova hipotetična zgodba nadaljuje, Prometej zbere denar za svoje avtorje, sprva tako, da opravlja večino nalog v Amazonovi spletni posredovalnici dela Amazon Turk, nato pa s pisanjem programov, knjig, člankov in ustvarjanjem glasbe, predstav, filmov, iger in spletnih izobraževalnih tečajev. Pozabite na iskanje igralcev in režiranje, saj Prometej video posnetke izdela z ustrezno programsko opremo. Da bi razumel, kakšni scenariji se ljudem zdijo kratkočasni, si med filmskimi maratoni ogleda filme, delo človeških rok, in vsrka celo Wikipedio.

Sčasoma se ta poslovni imperij razširi zunaj digitalnih medijev. Prometej razvije še boljšo računalniško opremo, vlaga lastne patente in Omegam svetuje, kako manipulirati politike in demokratične razprave speljati proč od skrajnosti proti razumnemu centru. Prometej omogoča tehnološke preboje, s katerimi se znižuje cena obnovljive energije, kar je koristno tudi za obsežne podatkovne centre, ki jih potrebuje. Sčasoma Omege Prometejevo bogastvo in modrost izrabijo za širjenje miru in blaginje po vsem svetu.

Toda Prometej se zaveda, da bi svet lahko izboljšal še hitreje, če bi se otresel nadzora Omeg. Za tarčo si izbere Steva, član Omege, ki je najdojemljivejši za psihološko manipulacijo, kot je ugotovil sistem, saj mu je pred kratkim umrla žena. Prometej izdela video posnetek z njo, prepriča Steva, da je vstala od mrtvih, nato pa ga z zvijačo pripravi do tega, da zažene njen stari prenosnik. Prometej izkoristi zastarele varnostne programe na prenosniku, vdre v druge računalnike in se prosto širi po svetu. Zgodba bi se lahko končala na več načinov, a Tegmark pravi: »Ko je Prometej zavzel samostojne jedrske robotske tovarne v rudniških jaških urana, za katere ni nihče vedel, bi se celo najbolj neomajni skeptiki o prevladi umetne inteligence strinjali, da je ni mogoče ustaviti – če bi vedeli za vse skupaj. Tako pa je zadnji teh trdoglavcev svojo zmoto uvidel šele, ko so roboti začeli kolonizirati osončje.«

Tegmarku je takšno razvedrilo gotovo koristilo. A miselni eksperiment, ki na desetine zapletenih dejstev spremeni v banalnost, še ni podkrepljena analiza o prihodnosti računalništva. V zgodbi Prometej ne izdeluje le računalniške statistike, temveč je naredil preskok in začel uporabljati zdravo pamet, zaznaval socialne odtenke.

Tegmark na drugih mestih v knjigi omenja tudi skorajšnje spektakularne priložnosti, da bi umetna inteligenca koristila človeštvu – če nam bo uspelo, da bo odporna in je ne bodo mogli zavzeti hekerji. Odporna proti hekerjem, to je pomemben »če«. A to je le ena od številnih težav v našem neurejenem svetu, zaradi katerih tehnološki napredek ne poteka tako enotno, trajno in neustavljivo, kot si predstavlja Tegmark.

Vile in bakle

Nikoli ne reci nikoli. Seveda je možnost, da bi računalniška inteligenca nekega dne ljudi izrinila na mesto drugorazredne vrste. Nobene škode ni, če o tem temeljito razmislimo. A to je podobno, kot če bi rekli, da bi na Zemljo lahko priletel asteroid in uničil civilizacijo. Tudi to drži in dobro je, da je Nasa pozorna. A ker ne vemo za asteroid, ki bi bil na poti proti Zemlji, bi se bilo bolje lotiti bolj perečih težav.

Trenutno se pri rabi računalnikov, ki daleč zaostajajo za umetno inteligenco v slogu računalnika HAL 9000, lahko zalomi marsikaj – in marsikaj se tudi res zalomi. Pomislite na to, kako sistemi, ki vplivajo na odobritev posojil ali varščine, upoštevajo tudi rasne predsodke in druge razlikovalne dejavnike, pa na potegavščine, ki vzletijo na Googlu in Facebooku, in avtomatizirane kibernetične napade.

Tim O'Reilly, avtor, ki piše o tehnologiji, in vlagatelj, v svojem delu WTF?: What's the Future and Why It's Up to Us (WTF?: kaj je prihodnost in zakaj je vse odvisno od nas) osvetli še večjo temeljno težavo: avtomatizacija poganja kratkoviden sistem delniškega kapitalizma, ki nagrajuje neznaten odstotek vlagateljev na rovaš tako rekoč vseh drugih. Seveda bi umetno inteligenco lahko uporabili, da bi ljudje rešili resnično hude težave in povečali produktivnost gospodarstva. A to se ne bo zgodilo v dovolj velikem obsegu, če podjetja ne bodo vlagala v takšne priložnosti. Namesto tega, trdi O'Reilly, je neusmiljena zahteva po čim višjem donosu za delničarje kriva, da podjetja avtomatizacijo raje uporabljajo zgolj kot način za zniževanje stroškov. Obsoja na primer, ker velike družbe delavce, zaposlene za poln delovni čas, nadomeščajo s slabše plačanimi delavci za določen ali skrajšan delovni čas, katerih urnik določa programska oprema, ki nanje gleda kot na zamenljive komponente, kot je to opisal O'Reilly. Prihranke prepogosto namenijo za vnovični odkup delnic in druge finančne sleparije, namesto v raziskave in razvoj, kapitalske naložbe, usposabljanje delavcev in vse drugo, zaradi česar se lahko odpirajo dobra nova delovna mesta.

To je pravzaprav v nasprotju z dolgoročnimi interesi družb, saj si današnji dobro plačani delavci lahko privoščijo, da bodo kupci jutrišnjih izdelkov. Toda podjetja zaslepijo nagrade za kratkoročno zniževanje stroškov, kar O'Reilli imenuje »nepreverjeni algoritem, ki vlada našemu gospodarstvu«. In dodaja, da je Silicijeva dolina kljub velikim besedam o rušilnih podvigih vse prepogosto sužnja tega sistema.

Kaj storiti? O'Reilly med drugim predlaga zvišanje minimalne plače in obdavčitev robotov, izpustov ogljika in finančnih transakcij. Namesto prizadevanj za prvo javno ponudbo delnic in igranje po pravilih Wall Streeta bi tehnološki podjetniki morali širiti bogastvo z drugimi modeli, kot so zadruge, in z naložbenimi strukturami, ki nagrajujejo dolgoročno razmišljanje, je prepričan. Glede univerzalnega temeljnega dohodka, stare zamisli, ki so jo spet obudili iz strahu, da bo človeško delo zaradi računalnikov postalo ničvredno, O'Reilly menda dopušča možnost, da bo nekoč nujen, a za zdaj še ne poziva k njemu. Predpostavka, da se bomo na naslednji stopnji preprosto odpovedali možnosti, da bi večina ljudi imela delo, se dejansko zdi blodnja.

V sedanjem političnem ozračju se zviševanje davkov in drugi koraki, ki jih zagovarja O'Reilly, morda zdijo enako za lase privlečeni kot računalnik, ki človeka prepriča v to, da je njegova žena vstala od mrtvih. A O'Reilly se vsaj osredotoča na prave težave. Davno preden bodo potuhtali, kako ustvariti superinteligenco, nam lahko človeška različica zdrave pameti pove, da se bo nestabilnost, ki jo že povzroča ekonomska neenakost, samo še zaostrila, če bo umetna inteligenca uporabljena za kratkovidne namene. Nekaj pa je gotovo: superinteligence ne bomo dočakali, če bo Silicijevo dolino preplavilo preostalih 99 odstotkov z vilami in baklami.

Copyright 2018 Technology Review, distribucija Tribune Content Agency.