uredi› krajšaj› T:188 M:431 Z: [×]

Pionir umetne inteligence Geoff Hinton: Globoko učenje bo zmoglo vse

Sodobna revolucija v umetni inteligenci se je začela med nenavadnim raziskovalnim natečajem. Zgodilo se je leta 2012, na tretjem letnem tekmovanju ImageNet, kjer so ekipe morale sestaviti sisteme računalniškega vida, ki bi razlikovali tisoč predmetov, živali, pokrajin in ljudi.

Prvi dve leti najboljša ekipa ni dosegla niti 75-odstotne natančnosti. A tretje leto je skupina treh raziskovalcev – profesorja in njegovih študentov – nenadoma premagala to mejo. Drugouvrščeno ekipo je premagala za osupljivih 10,8 odstotne točke. Ta profesor je bil Geoffrey Hinton, v njegovi ekipi pa so si pomagali s tehniko, imenovano globoko učenje.

Hinton se je z globokim učenjem pravzaprav ukvarjal že od 80. let, vendar je njegovo učinkovitost omejevalo pomanjkanje podatkov in računalniške moči. A trdna vera v tehniko se mu je nazadnje bogato obrestovala. Na četrtem tekmovanju ImageNet so se že skoraj vse ekipe oprle na globoko učenje in tako dosegle enkratno izboljšanje natančnosti. Kmalu so globoko učenje uporabljali tudi za druge naloge, ne le za prepoznavanje podob, in v številnih industrijskih panogah.

Lani so Hintona s še dvema pionirjema na področju umetne inteligence Yannom LeCunom in Yoshuom Bengiom za ključni prispevek na tem področju nagradili s Turingovo nagrado. Hinton je na redni letni konferenci EmTech MIT v organizaciji MIT Technology Review pojasnil, kakšne so razmere na tem področju in v kaj bi se ta tehnologija morala usmeriti v prihodnje.

Menite, da bo globoko učenje zadostovalo za posnemanje vse človeške inteligence? Zakaj ste tako prepričani o tem?

Res verjamem, da bo globoko učenje zmoglo vse, vendar mislim, da bo prej moralo priti tudi do številnih konceptualnih prebojev. Leta 2017 je, na primer, Ashish Vaswani s sodelavci predstavil transformatorje, ki zmorejo izpeljati res dobre vektorje za prikaz pomena besed. To je bil konceptualni preboj. Zdaj to metodo uporabljajo pri skoraj vseh najboljših procesiranjih naravnega jezika. Potrebovali bomo še vrsto podobnih prelomnih prebojev.

Se bomo s temi preboji lahko ob pomoči globokega učenja približali celotni človeški inteligenci?

Da. Sploh to velja za preboje, povezane s tem, kako velike vektorje nevronske dejavnosti pripraviti do izvajanja dejavnosti, kot je sklepanje. Potrebujemo pa tudi občutno povečanje obsega. Človeški možgani vključujejo okoli sto bilijonov parametrov oziroma sinaps. To, kar danes imenujemo zelo velik model, na primer GPT-3, jih ima 175 milijard. Tisočkrat manjši je od možganov. GPT-3 je zmožen sestaviti dokaj verodostojno besedilo, vendar je še vedno neznaten v primerjavi z možgani.

Ko ste omenili obseg, imate v mislih večje nevronske mreže, več podatkov ali oboje?

Oboje. Med tem, kar se dogaja v računalništvu, in tem, kar se dogaja z ljudmi, obstajajo določene razlike. Ljudje imajo ogromno parametrov v primerjavi s količino podatkov, ki jih sprejemajo. Nevronske mreže so presenetljivo učinkovite pri obdelavi razmeroma majhne količine podatkov, in to z velikim številom parametrov, vendar so ljudje celo boljši.

Veliko ljudi s tega področja verjame, da je naslednja pomembna sposobnost, ki bi se je morali lotiti, zdrav razum. Se strinjate?

Strinjam se, da je to ena od zelo pomembnih zadev. Zelo pomemben je po mojem tudi motorični nadzor in globoke nevronske mreže zdaj postajajo vse spretnejše tudi v tem. Sploh novejši Googlovi dosežki kažejo, da je mogoče fini motorični nadzor kombinirati z jezikom. Tako lahko odprete predal, vzamete iz njega zvezek in sistem vam lahko v naravnem jeziku razlaga, kaj počne.

Pri GPT-3, ki sestavlja to enkratno besedilo, je jasno, da mora razumeti veliko, sicer ne more napisati takšnega besedila, ni pa čisto jasno, koliko razume. A če nekaj odpre predal, vzame ven zvezek in reče »Ravno sem odprl predal in iz njega vzel zvezek«, bi težko zanikali, da razume, kaj počne.

Področje umetne inteligence na človeške možgane gleda kot na največji vir navdiha. Različni pristopi k umetni inteligenci izvirajo iz različnih teorij kognitivne znanosti. Mislite, da možgani dejansko ustvarjajo reprezentacije zunanjega sveta, da ga razumejo, ali je to le uporaben način za razmišljanje o tem?

V kognitivni znanosti je dolgo tega potekala razprava med dvema filozofskima smerema. Prvo je vodil Stephen Kosslyn, ki je bil prepričan, da med urejanjem vidnih podob v glavi pravzaprav naokrog premikamo kup pikslov. Druga smer je bila bliže konvencionalni umetni inteligenci in se ji je teorija prve zdela nesmiselna. Šlo naj bi za hierarhične, strukturne opise. V glavi imamo simbolične strukture in te potem urejamo.

Po mojem sta obe smeri naredili isto napako. Kosslyn je menil, da urejamo piksle, ker so zunanje podobe sestavljene iz njih in takšen prikaz lahko razumemo. Zagovorniki simbolov pa so menili, da urejamo simbole, saj si stvari predstavljamo s simboli in takšen prikaz tudi razumemo. No, meni se oboje zdi enako zgrešeno. V možganih imamo namreč velike vektorje nevronske aktivnosti.

Nekateri ljudje so še vedno prepričani, da so simbolni prikazi primerni kot pristop k umetni inteligenci.

Nesporno. Imam dobre prijatelje, kot je Hector Levesque, ki je trdno prepričan o simbolnem pristopu in je na ta način veliko dosegel. Ne strinjam se z njim, vendar je simbolni pristop kljub temu popolnoma upravičeno preizkusiti. A predvidevam, da bomo nazadnje spoznali, da simboli preprosto obstajajo v zunanjem svetu, mi pa opravljamo interne operacije na velikih vektorjih.

Katero vaše stališče o prihodnosti umetne inteligence je po vaši oceni najbolj nenavadno?

No, moja težava je, da imam nenavadna stališča, pa čez pet let postanejo splošno razširjena. Moja najbolj čudna in protislovna stališča iz 80. let danes vsi sprejemajo. Zdaj je zelo težko najti ljudi, ki se ne bi strinjali z njimi. Tako da so me pravzaprav razorožili kot zagovornika čudnih stališč.

Copyright 2020 Technology Review, Inc., distribucija Tribune Content Agency.