uredi› krajšaj› T:944 M:1313 Z:11 [×]

Umetna inteligenca se uči graditi samo sebe

Čez zaslon se je premikala preprosto narisana človeška figura s klinasto glavo. Vlekla se je napol sključena in s kolenom drsala po tleh. Saj hodi! No, recimo. Rui Wang, raziskovalec umetne inteligence, kljub vsemu ni mogel skriti navdušenja. »Vsak dan, ko pridem v pisarno in vključim računalnik, ne vem, kaj me bo pričakalo,« je pojasnil.

Will Douglas Heaven, MIT Technology Review

Wang dela v Uberju in programsko opremo Paired Open-Enden Trailblazer (Poet), pri razvoju katere je sodeloval, na prenosniku pusti delovati tudi čez noč. Program je nekakšen vadbeni poligon za virtualne robote. Doslej se še niso veliko naučili. Ti umetno inteligentni agenti ne igrajo goja, ne iščejo simptomov raka in ne analizirajo proteinov, temveč se poskušajo znajti v preprostem narisanem ozadju z ograjami in jarki, ne da bi se spotaknili in padli.

Vznemirljivo pa ni to, česa vse se ti roboti lahko naučijo, temveč, kako se učijo. Poet izdela poligone z ovirami, oceni zmožnosti robotov in določi naslednji izziv, ne da bi pri tem moral sodelovati človek. Roboti se s poskusi in z napakami korakoma izboljšujejo. »Nekoč bo morda preskočil skalo kot mojster kungfuja,« se veseli Wang.

Trenutno se vse skupaj zdi zelo preprosto, a Wang in peščica drugih raziskovalcev v Poetu vidijo revolucionarni novi način za ustvarjanje superpametnih naprav, in sicer tako, da bo umetna inteligenca ustvarjala samo sebe.

Avtomatizacija lova na boljše ustroje nevronskih mrež je ena najbolj vročih tem v umetni inteligenci že vsaj od 80. let.

Wangov nekdanji kolega Jeff Clune je med največjimi podporniki te zamisli. Z njo se ukvarja že več let, in sicer je začel na univerzi v Wyomingu, nadaljeval pa v Uberjevem laboratoriju za umetno inteligenco, kjer je sodeloval z Wangom in drugimi. Zdaj se seli med univerzo v Britanski Kolumbiji in OpenAI, torej ga podpira eden najboljših svetovnih laboratorijev za umetno inteligenco.

Clune je poskus, da bi razvili resnično inteligentno umetno inteligenco, označil za najbolj ambiciozni znanstveni podvig v človeški zgodovini. Danes, sedem desetletij po začetku resnih poskusov, da bi izdelali umetno inteligenco, smo še vedno zelo oddaljeni od naprav, ki bi bile vsaj približno tako pametne kot ljudje, kaj šele pametnejše. Po Clunovem mnenju bi Poet lahko predstavljal bližnjico do tega cilja.

»Rešiti se moramo spon in nehati ovirati sami sebe,« je poudaril.

Če ima Clune prav, bi razvijanje umetne inteligence z umetno inteligenco lahko pomenilo pomemben korak na poti, ki bi nekega dne popeljala do umetne splošne inteligence – naprav, ki bi v razmišljanju prekosile ljudi. Kratkoročno bi nam tehnika lahko pomagala odkrivati različne vrste inteligence – nečloveške bistroumneže, ki bi z neobičajnimi metodami našli rešitve in morda dopolnjevali našo inteligenco, ne pa je tudi nadomestili.

Posnemanje evolucije

S Clunom sem se o tej zamisli prvič pogovarjal na začetku lanskega leta, le nekaj tednov po njegovi selitvi v OpenAI. Z veseljem je govoril o preteklem delu, medtem ko je ob vprašanju o sodelovanju z novo ekipo ostal redkobeseden. Namesto da bi se pogovarjala v njegovih prostorih, se je raje odločil za sprehajanje po cestah navzgor in navzdol v bližini zgradbe.

 Potem ko so človeški mojstri igro proučevali stoletja, je umetna inteligenca našla rešitve, na katere ni še nihče pomislil.

Clune je povedal le, da mu OpenAI zelo ustreza. »Moja zamisel se v veliki meri ujema z marsičem, v kar verjamejo,« je pojasnil. »Gre za idealen zakon. Všeč jim je bila moja vizija, zato so želeli, da pridem k njim in jo poskušam uresničiti.« Nekaj mesecev po Clunovi selitvi v OpenAI je ta zaposlil še večino njegove stare ekipe iz Uberja.

Lačnemu najbolj pomagaš, če ga naučiš loviti ribe: medtem ko se ročno razviti algoritem lahko nauči določenega opravila, to drugo umetno inteligenco naučijo, kako naj se uči sama.

Clune se pri razvijanju svoje zamisli ne opira le na financiranje OpenAI. V zgodovini umetne inteligence mrgoli primerov, ko so človekove rešitve morale prostor prepustiti strojnemu učenju. Primer je računalniški vid: pred desetletjem je do velikega preboja pri prepoznavanju podob prišlo, ko so obstoječe, ročno razvite sisteme nadomestili s tistimi, ki so se vsega naučili sami. Enako velja za številne uspehe na področju umetne inteligence.

Med najzanimivejšimi lastnostmi umetne inteligence, sploh pa strojnega učenja, je njena zmožnost, da najde rešitve, ki jih ljudje niso – da nas preseneti. Pogosto navajani primer je Alphago (in njegov naslednik Alphazero), ki je v stari, premeteni igri go premagal najboljšega, kar jih premore človeštvo, in sicer s strategijami, ki so se na prvi pogled zdele čudne. Potem ko so človeški mojstri igro proučevali stoletja, je umetna inteligenca našla rešitve, na katere ni še nihče pomislil.

Clune zdaj sodeluje z ekipo v OpenAI in ta je leta 2018 razvila robote, ki so se naučili igrati skrivalnice. Te umetno inteligentne naprave so začele s preprostimi cilji in preprostimi orodji za njihovo dosego: en par je moral najti drugega, ki se je lahko skril za premičnimi ovirami. A ko so te robote izpustili, da bi se učili, so hitro našli načine, kako izkoristiti prednosti svojega okolja, česar raziskovalci niso predvideli. Izkoristili so napako v simuliranih fizičnih lastnostih svojega virtualnega sveta, da so preskočili stene ali celo stopili skoznje.

Takšno nepričakovano novo obnašanje je izzvalo mikavno ugibanje, da bi umetna inteligenca utegnila najti tehnične rešitve, na kakršne človek sam ne bi niti pomislil, in izumiti nove ter učinkovitejše tipe algoritmov in nevronskih mrež. Še več, lahko bi jih morda celo kar opustili, čeprav predstavljajo temeljni kamen sodobne umetne inteligence.

Clune pogosto opomni ljudi, da se je inteligenca razvila iz preprostih začetkov. »Pri tem pristopu je zanimivo tudi to, ker vemo, da lahko deluje,« je poudaril. »Zelo preprost algoritem darvinistične evolucije je prispeval človeške možgane, in ti so najinteligentnejši učeči se algoritem v vesolju, kar jih poznamo za zdaj.« Povedati je želel, da bi bilo bolje, če bi posnemali postopek razvijanja inteligence, namesto da bi razvijali samo inteligenco, saj bi bilo to lažje, če pa je inteligenca, kot jo poznamo, nezahtevna mutacija genov v nešteto generacijah.

Tu je treba izpostaviti še nekaj ključnega. Inteligenca nikoli ni pomenila zaključka evolucije ali cilja, ki ga je treba doseči, temveč se je pojavila v številnih različnih oblikah – od nešteto majhnih rešitev do izzivov, ki so živim bitjem omogočili preživetje in spopadanje z novimi izzivi. Inteligenca je trenutni vrhunec stalnega procesa brez zaključka. S tega zornega kota je evolucija precej drugačna od algoritmov, kot si jih običajno predstavljajo ljudje – kot sredstvo za dosego cilja.

Po prepričanju Cluna in kolegov bi ravno ta odprtost in stalnost, ki ju predstavlja na prvi pogled brezciljno zaporedje izzivov, kot jih zastavlja Poet, pripomogli k novim oblikam umetne inteligence. Raziskovalci so desetletja poskušali sestaviti algoritme, ki bi posnemali človeško inteligenco, a resnični prodor bi lahko prinesli algoritmi, ki pri reševanju težav poskušajo posnemati evolucijo brez končnega cilja. Znanstveniki bi potem morali samo še počakati, kaj se bo izcimilo.

Menijo, da bodo izzivi, ki jih postavlja človek, ozko grlo in da bo za resnični napredek umetne inteligence ta morala sama poiskati izzive zase.

Strojno učenje že danes uporabljajo za urjenje samega sebe. Učijo ga, kako poiskati rešitve za nekaj največjih težav na tem področju, na primer kako izdelati naprave, ki bi se lahko naučile obvladati več kot eno nalogo hkrati in se soočati s situacijami, s katerimi so se že soočile. Nekateri menijo, da ta pristop pomeni najboljšo metodo za razvoj umetne splošne inteligence. »Lahko bi sprožili algoritem, ki sprva ne bi vseboval veliko inteligence, in opazovali, kako sam sebe nalaga in vnovič zaganja vse do umetne splošne inteligence,« je povedal Clune.

Ta za zdaj obstaja samo v domišljiji, a razlog je predvsem, ker nihče ne ve, kako jo razviti. Napredek pri umetni inteligenci je postopen in dosega ga človek. Napredek običajno pomeni nadgradnjo obstoječih tehnik in algoritmov, s čimer večjo učinkovitost oziroma natančnost dosegamo po stopnjah. Clune te postopke opisuje kot poskuse odkriti zidake umetne inteligence, ne da bi vedeli, kaj sploh iščemo in koliko zidakov potrebujemo. In to je šele začetek. »Nekega dne nas čaka herkulski podvig, kako vse to sestaviti,« je bil slikovit.

Poet izdela poligone z ovirami, oceni zmožnosti robotov in določi naslednji izziv, ne da bi pri tem moral sodelovati človek.

Če bi umetna inteligenca iskala in sestavljala te zidake namesto nas, bi to predstavljalo velik preskok v modelu, saj bi to pomenilo, da želimo razviti inteligentno napravo, pri čemer bi nam bilo vseeno za njen videz, samo da bi delovala.

Tudi če nikoli ne bomo dobili umetne splošne inteligence, bi pristop s samoučenjem vseeno lahko vplival na vrste umetne inteligence, ki bi nastajala. Svet potrebuje več kot odličnega igralca goja, je poudaril Clune. Zanj razvoj superpametnih naprav pomeni izgradnjo sistema, ki si sam postavlja izzive, se uspešno spopade z njimi in si nato izmisli naslednje. Poet je le hiter vpogled v to dogajanje. Clune si zamišlja napravo, ki bi robota naučila hoditi, nato skakati ristanc, potem pa morda igrati go. »Kasneje se bo morda naučil reševati matematične uganke in si sam postavljati nove naloge. Sistem bi se nenehno nadgrajeval in samo nebo bo meja,« se veseli Clune.

Morda gre res za divje sanje, a upati je, da bi takšne naprave lahko premagale človeške konceptualne slepe ulice in nam pomagale reševati hude krize, kot so podnebne spremembe in globalno zdravje. A najprej je takšno napravo treba izdelati.

Kako ustvariti možgane

Umetne možgane je mogoče povezati na različne načine. Nevronske mreže so sestavljene iz več plasti umetnih nevronov, šifriranih v programski opremi. Vsak nevron je mogoče povezati z drugimi v vrhnji plasti. Način povezovanja v nevronski mreži je zelo pomemben in nove zgradbe večkrat pripomorejo k prebojnim novostim.

Nevronske mreže, ki jih kodirajo znanstveniki, pogosto nastanejo s poskusi in z napakami. Teorija, kaj bo delovalo in kaj ne, tako rekoč ne obstaja, prav tako ni jamstva, da so že odkrili najboljše zgradbe. Avtomatizacija lova na boljše ustroje nevronskih mrež je zato ena najbolj vročih tem v umetni inteligenci že vsaj od 80. let. Najpogostejša metoda za avtomatizacijo postopka je, da ima umetna inteligenca proste roke pri ustvarjanju številnih mogočih mrež in da mreža lahko samodejno preizkusi vsako od njih ter izbere najboljšo. To običajno imenujejo nevroevolucija ali iskanje nevronske zgradbe (neural architecture search – NAS).

V zadnjih letih so strojne zgradbe začele prehitevati človeške. Leta 2018 so Esteban Real in njegovi kolegi v Googlu z iskanjem nevronske zgradbe sestavili mrežo za prepoznavo podob, ki je takrat prekašala najboljšo človeško. Marsikomu so se takrat odprle oči.

Sistem iz leta 2018 sodi v okvir daljšega Googlovega projekta, imenovanega AutoML, ki prav tako uporablja iskanje nevronske zgradbe, s čimer je nastala družina modelov za globoko učenje EfficientNets, ki je učinkovitejša od človeških in dosega visoko stopnjo natančnosti pri prepoznavi obrazov z manjšimi in s hitrejšimi modeli.

Tri leta pozneje Real premika meje tistega, kar je mogoče razviti brez obstoječe podlage. Starejši sistemi so samo prerazporedili preizkušene koščke nevronske mreže, na primer obstoječe tipe plasti ali sestavnih delov. »Upravičeno smo pričakovali primeren odgovor,« je povedal.

Real je lani s svojo ekipo snel pomožna kolesca. Novi sistem po imenu AutoML Zero poskuša umetno inteligenco razviti od temeljev navzgor, pri čemer si pomaga samo z najosnovnejšimi matematičnimi koncepti za strojno učenje.

Neverjetno, a AutoML Zero ni le spontano zgradil nevronske mreže, temveč si je izmislil tudi naklonski spust, najobičajnejšo matematično tehniko, s katero človeški razvijalci usposabljajo mrežo. »Zelo me je presenetilo,« je priznal Real. »Gre za zelo preprost algoritem – ima le šest vrstic koda –, vendar je napisal ravno teh šest vrstic.«

AutoML Zero za zdaj še ne ponuja zgradb, ki bi se po učinkovitosti lahko kosale s človeškimi sistemi, prav tako še ne počne veliko več od razvijalcev. A Real je prepričan, da jih bo nekega dne prekašal.

Usposabljanje drugačnega učitelja

Najprej izdelate možgane, nato jih morate učiti. A strojni možgani se ne učijo tako kot naši. Naši možgani se znajo odlično prilagajati novemu okolju in nalogam. Današnja umetna inteligenca se je pod določenimi pogoji zmožna odzvati na izzive, vendar pogori, če se ti pogoji le malenkost spremenijo. Ta neprožnost zavira prizadevanja za razvoj umetne inteligence, ki bi lahko postala splošnejša in uporabna za vrsto možnosti, kar bi predstavljajo velik korak na poti k dejanski inteligentnosti.

Jane Wang, raziskovalka v londonskem DeepMindu, se zdi najboljša metoda za prožnejšo umetno inteligenco, da bi se tega naučila kar sama. Povedano drugače, razvila bi rada umetno inteligenco, ki se ne bi le naučila določenih opravil, temveč bi jih postopno obvladala tudi s prilagajanjem neznanim situacijam.

Raziskovalci si že leta prizadevajo, da bi umetna inteligenca postala prilagodljivejša. Po mnenju Wangove bi z različico, ki bi se sama pregrizla skozi to težavo, nekoliko skrajšali ročni pristop s poskusi in z napakami: »Ne moremo pričakovati, da bomo že kar takoj odkrili pravi odgovor.« Upa, da bodo med tem postopkom izvedeli tudi kaj novega o delovanju možganov. »Marsičesa o tem, kako se ljudje in živali učijo, še ne vemo,« je poudarila.

Pri razvijanju algoritmov za samodejno učenje poznamo dva glavna pristopa, ki izhajata iz obstoječe nevronske mreže in za njeno učenje uporabljata umetno inteligenco.

Po prvem pristopu, ki so ga približno hkrati, a vsak posebej razvili Wangova ter njeni kolegi v DeepMindu in ekipa v OpenAI, ponavljajoče se nevronske mreže lahko usposabljajo tako, da z aktivacijo njihovih nevronov – kar okvirno spominja na sprožanje nevronov v bioloških možganih – lahko kodirajo vse tipe algoritmov. DeepMind in OpenAI sta to lastnost izkoristila za učenje ponavljajoče se nevronske mreže, da je proizvajala algoritme za spodbujevano učenje, ki umetni inteligenci narekujejo, kako naj se obnaša, da bi dosegla postavljene cilje.

Rezultat tega je, da se sistema ne naučita algoritma, ki bi odgovoril na določeni izziv, na primer prepoznavo podob, temveč usposablja učeči se algoritem, ki je uporaben za različne naloge in se med delom prilagaja. Vse skupaj spominja na stari pregovor, da lačnemu najbolj pomagaš, če ga naučiš loviti ribe: medtem ko se ročno razviti algoritem lahko nauči določenega opravila, to drugo umetno inteligenco naučijo, kako naj se uči sama. Nekaj teh sistemov se odreže bolje od tistih, ki jih je zasnoval človek.

Drugi pristop je skupaj s kolegi razvila Chelsea Finn s kalifornijske univerze v Berkeleyju. Gre za model agnostične metode meta učenja (model-agnostic meta learning – MAML), pri katerem se model usposablja z dvema postopkoma strojnega učenja, pri čemer je prvi varno vpet v drugega.

Vse skupaj deluje približno tako. Notranji postopek MAML se uči s podatki in nato se ga preverja – tako kot po starem. Nato pa zunanji model prevzame delovanje notranjega – kako uspešno, na primer, prepoznava podobe – in to izkoristi, da se nauči, kako učni algoritem tega modela prilagoditi in izboljšati njegovo učinkovitost. Kot bi šolski inšpektor ocenjeval skupino učiteljev, ki vsak poučuje po svoji metodi. Inšpektor bi preveril, s katero tehniko učenci dosegajo najboljše rezultate, in jo temu primerno dodelal.

S takšnim pristopom znanstveniki razvijajo umetno inteligenco, ki je robustnejša, splošnejša in se z manj podatki uči hitreje. Finnova bi, na primer, robota, ki se je usposobil za hojo po ravnem, rada naučila, da bi se ob minimalnem dodatnem vadenju naučil hoditi navzgor ali po travi in hkrati nekaj nesel.

Clune in njegovi kolegi so lani nadgradili tehniko Finnove in razvili algoritem, ki se uči z manj nevroni, tako da ne povozi vsega, kar se je naučil prej, kar je velika nerešena težava pri strojnem učenju, znana kot katastrofalno pozabljanje. Naučenemu modelu, ki uporablja manj nevronov, ki je znan kot razpršeni model, ostane več neuporabljenih nevronov, ki jih med 'prešolanjem' lahko nameni za nove naloge, kar pomeni, da bo prepisal manj 'uporabljenih' nevronov. Clune je ugotovil, da je umetna inteligenca, ki se je morala naučiti več kot eno nalogo hkrati, izdelala lastno različico razpršenega modela, ki se je odrezal bolje od človeškega.

Če bomo vse napore vložili v umetno inteligenco, ki bo ustvarjala in učila samo sebe, bo morala sama poskrbeti tudi za učno okolje – šolo, učbenike in učni načrt.

Zadnje leto se je začela vrsta projektov, med katerimi so umetno inteligenco učili s samodejno generiranimi podatki. Sisteme za prepoznavo obraza učijo z obrazi, ki jih je generirala umetna inteligenca. Sistemi umetne inteligence se poleg tega učijo, kako usposabljati drug drugega. Eden zadnjih primerov sta robotski roki, ki sodelujeta, pri čemer se ena roka uči postavljati vse zahtevnejše izzive z zlaganjem predmetov v stolp, druga pa se jih uči prijemati.

Clune se ob vsem tem sprašuje, ali ni človekov občutek, kakšne podatke potrebuje umetna inteligenca za učenje, nemara zgrešen. S kolegi je, denimo, razvil razmnoževalne učne mreže, ki se učijo, kakšne podatke naj generirajo, da bi dosegle čim boljši uspeh pri učenju modela. Med enim od poskusov je Clune z eno teh mrež prilagodil podatkovni niz na roko napisanih števil, ki ga pogosto uporabljajo pri učenju algoritmov za prepoznavo podob. Nastalo je nekaj, kar se je precej razlikovalo od prvotnega niza, ki ga je izdelal človek: na stotine nepopolnih številk, na primer zgornja polovica števila sedem, in nekaj, kar je spominjalo na skupaj spojeni številki. Nekateri primeri, ki jih je generirala umetna inteligenca, skoraj niso bili prepoznavni. Kljub temu so se odlično izkazali pri usposabljanju sistema za prepoznavo ročno napisanih pravih številk.

Ne stremite k uspehu

Podatki, ki jih množi umetna inteligenca, so še vedno le del sestavljanke. Dolgoročno si strokovnjaki zamišljajo, da bi vse te tehnike in nove, ki si jih bodo šele izmislili, prepustili inštruktorju umetne inteligence, ki bi nadziral, kako so umetni možgani zvezani, kako se učijo in s čim se učijo. Niti Clune še ne ve, kakšen bo ta prihodnji sistem. Včasih omenja nekakšen hiperrealističen simulirani peskovnik, kjer bi si sistemi umetne inteligence okrušili zobe in odrgnili kolena, a na nekaj tako zapletenega bo treba še nekaj let počakati. Najbliže tej viziji je že omenjeni sistem Poet, ki ga je Clune ustvaril z Rui Wang iz Uberja in drugimi.

Vzgib za ta sistem je bilo protislovje, je pojasnil Wang. Če poskušate rešiti težavo, boste pogoreli, če je ne rešujete, imate več možnosti za uspeh. To je eno od spoznanj, do katerih se je Clune dokopal na podlagi svoje analogije z evolucijo – osupljivih rezultatov, ki jih prinese na prvi pogled naključni postopek, pogosto ni mogoče ponoviti z načrtnimi koraki proti istemu cilju. Ni dvoma, da metulji obstajajo, a če zavrtimo čas nazaj do njihovih enoceličnih prednikov in jih poskušamo ustvariti sami po korakih od bakterije do žuželke, nam najbrž ne bo uspelo.

Poet s svojo dvonogo risano figurico začne vaditi v preprostem okolju, na primer na ravni poti brez ovir. Akter sprva ne ve, kaj početi z nogami in ne zna hoditi, a s poskusi in z napakami se algoritem za spodbujevano učenje, ki ga nadzoruje, nauči, kako se premikati po ravnih tleh. Poet nato ustvari novo naključno, drugačno okolje, ki pa ni nujno zahtevnejše za hojo. Akter poskusi hoditi v njem. Če v tem novem okolju naleti na oviro, se nauči, kako jo premagati. Vedno ko mu uspe ali se zatakne, ga algoritem preseli v novo okolje. Sčasoma se akter nauči vrste gibov, povezanih s hojo in skoki, tako da se lahko premika po poteh ob vse zahtevnejših ovirah.

Ekipa je ugotovila, da je naključno spreminjanje okolja ključno.

Akterji so se včasih, na primer, naučili hoditi po ravnem s čudnim, z napol klečečim podrsavanjem, ker je to zadostovalo. »Niso se naučili vstati, ker jim pač ni bilo treba,« je pojasnil Wang. A ko so jih prisilili, da so na površini, posejani z ovirami, prevzeli drugačno strategijo, so se na prejšnjo stopnjo vrnili z boljšo tehniko hoje – uporabljali so obe nogi in niso več ene vlekli za seboj, na primer –, nato pa so to izboljšano različico sebe še dodatno prilagodili zahtevnejšim izzivom.

Poet svoje robote usposablja, kot jih ne bi noben človek – njegova pot do uspeha je čudna in brez notranjega občutka. Virtualni robot na vsaki stopnji išče rešitev za trenutni izziv. Ko se sooča z naključno izbranimi ovirami na poti, postaja na splošno boljši. Ta proces nima zaključka ali preizkusa, ki bi ga moral robot prestati, prav tako ni rekordnega dosežka, ki bi ga veljalo preseči.

Clune, Wang in številni kolegi so prepričani, da je to dognanje izjemno pomembno. Zdaj raziskujejo, kaj bi lahko pomenilo za razvoj superpametnih naprav. Bi to, da ne obstaja začrtana pot, lahko prineslo ključni prodor na poti k umetni splošni inteligenci?

Poet že navdihuje druge raziskovalce, med katerimi sta tudi Natasha Jaques in Michael Dennis s kalifornijske univerze v Berkeleyju. Razvila sta sistem, imenovan Paired, ki z umetno inteligenco ustvarja vrsto labirintov za usposabljanje druge.

Rui Wang meni, da bodo izzivi, ki jih postavlja človek, ozko grlo in da bo za resnični napredek umetne inteligence ta morala sama poiskati izzive zase. »Naj bodo današnji algoritmi še tako dobri, jih vedno preverjajo z ročno sestavljenimi merili,« je povedal. »Težko si je predstavljati, da bi tako nastala umetna splošna inteligenca, saj jo omejujejo fiksni cilji.«

Nova vrsta inteligence

Hiter razvoj umetne inteligence, ki lahko uči samo sebe, odpira vprašanje, kako dobro lahko nadzorujemo njeno razraščanje. Predstava o umetni inteligenci, ki ustvarja boljšo različico sebe, je ključni del nastajanja mita, povezanega s singularnostjo – zamišljeni trenutek v prihodnosti, ko se bodo sistemi umetne inteligence začeli izboljševati eksponentno in se izmaknili našemu nadzoru. Prej ali slej bi se umetna inteligenca lahko odločila, da ne potrebuje več človeka, opozarjajo črnogledneži.

Raziskovalci ne razmišljajo o tem: njihovo delo je osredotočeno predvsem na sedanje izboljšave. Naprave, ki bi se jim utrgalo, so le oddaljena možnost.

Kljub temu ima tudi Jane Wang iz DeepMinda pomisleke. K privlačnosti principa, da bi umetno inteligenco ustvarjali ob pomoči umetne inteligence, veliko prispeva to, da ponuja zasnove in tehnike, na katere človek ne pomisli. A Wangova opozarja, da vsa presenečenja niso prijetna. »Odprtost je že po definiciji nekaj nepričakovanega.« Če gre pri vsem skupaj za to, da je treba umetno inteligenco pripraviti, naj naredi nekaj nepričakovanega, jo je težje nadzorovati. »To je hkrati razburljivo in strašljivo,« je pripomnila.

Clune pa poudarja tudi pomen upoštevanja etike nove tehnologije že od samega začetka. Veliko možnosti je, da bo nevronske mreže in algoritme, ki jih izdela umetna inteligenca, še težje razumeti kot današnje že tako in tako skrivnostne ter neznane sisteme. So sistemi umetne inteligence, ki jih ustvarijo algoritmi, trši oreh, kar se tiče predsodkov? Bo pri njih težje preprečevati neželeno vedenje?

Clune upa, da bodo takšna vprašanja postavljali in nanje tudi odgovorili, ko se bo več ljudi zavedelo možnosti samorazvijajoče se umetna inteligenca. »Večina strokovnjakov, ki se ukvarja s strojnim učenjem, ne govori veliko o naši splošni poti do izjemno močne umetne inteligence,« je povedal, »temveč se raje osredotoča na majhne, postopne izboljšave.« Clune pa bi rad vnovič začel pogovor o največjih izzivih na tem področju.

Njegove ambicije so povezane z njegovimi najzgodnejšim zanimanjem za človeško inteligenco in njen razvoj. Njegova vizija je, da bi ustvaril pogoje, v katerih bi naprave nekega dne omogočile nastanek in vzpon lastne inteligence oziroma inteligenc, in sicer z nešteto generacij poskusov in napak pod nadzorom algoritmov brez vnaprej določenega načrta.

Če bo umetna inteligenca začela sama ustvarjati inteligenco, ni zagotovila, da bo podobna človeški. In namesto da bi ljudje naprave učili razmišljati, kot razmišljamo ljudje, bi naprave utegnile ljudi naučiti drugačnega načina razmišljanja.

»Verjetno obstaja veliko število različnih poti do velike inteligence,« predvideva Clune. »Pri umetni inteligenci me zelo vznemirja, ker bomo inteligenco morda začeli umevati splošneje, ko bomo videli, kakšne različice vse so mogoče. To je res zanimivo. Hočem reči, da je skoraj, kot bi izumili potovanja med zvezdami in dobili možnost obiskovanja zunajzemeljskih kultur. V zgodovini človeštva ne bo veličastnejšega trenutka, kot ko bomo naleteli na zunajzemeljsko raso in spoznali njeno kulturo, znanost in tako naprej. Potovanje med zvezdami je prezahtevno, vendar bomo morda zmožni digitalno poustvariti zunajzemeljsko inteligenco.«

Copyright Technology Review, distribucija Tribune Content Agency.