uredi› krajšaj› T:148 M:213 Z: [×]

Računalniki ne morejo ustvariti vsega

Zakaj je ustvarjalnost izključno človeška posebnost in zakaj bo tako tudi ostalo.

Sean Dorrance Kelly, MIT Technology Review

V veliki dvorani koncertne hiše Musikverein so 31. marca 1913 sredi izvajanja orkestrske glasbe Albana Berga izbruhnili nemiri. Kaos se je še stopnjeval in policisti so aretirali organizatorja koncerta, ker je udaril Oscarja Strausa, malo znanega operetnega skladatelja. Pozneje je Straus na sojenju trosil zbadljivke zaradi ogorčenja občinstva. Povedal je, da je bil udarec najbolj harmoničen zvok tistega večera. Zgodovina je razsodila drugače: dirigent na tem koncertu Arnold Schönberg se je vanjo zapisal kot eden najustvarjalnejših in vplivnejših skladateljev 20. stoletja.

Morda ne uživate v Schönbergovi disonančni glasbi, ki zavrača običajno tonaliteto in dvanajst not lestvice razporeja v skladu s pravili, ki preprečujejo, da bi katera od njih prevladala. Vseeno pa ne morete zanikati, da ni spremenil našega umevanja glasbe. In zato je zares ustvarjalen in inovativen umetnik. Schönbergove tehnike so danes nevpadljivo vključene v vse, od filmske glasbe in broadwayskih muzikalov do džezovskih solističnih vložkov Milesa Davisa in Ornetta Colemana.

Ustvarjalnost je med najbolj skrivnostnimi in osupljivimi dosežki človekovega obstoja. A kaj sploh je?

Ustvarjalnost ne pomeni le pokazati nekaj novega. Malček za klavirjem lahko udarja po novem zaporedju not, vendar to ni ustvarjalnost, ki bi nekaj pomenila. Poleg tega je ustvarjalnost omejena z zgodovino: kar šteje kot ustvarjalen navdih v nekem obdobju ali na nekem kraju, se nekoč ali nekje drugje morda zdi smešno, neumno ali noro. Skupnost mora zamisel sprejeti kot dobro, da šteje za ustvarjalno.

Tako kot pri Schönbergu in mnogih drugih sodobnih umetnikih mora biti to sprejemanje vsesplošno. Nanj je včasih treba čakati leta in včasih ustvarjalnost zmotno omalovažujejo cele generacije. A če ustvarjalnosti prej ali slej ne potrdi neka skupnost, dosežka ne moremo označiti za ustvarjalnega.

Napredek v umetni inteligenci je pripomogel k ugibanju, da bi stroji utegnili nadomestiti človeka na vseh področjih, tudi pri ustvarjalnosti. Futurist Ray Kurzweil napoveduje, da se bo zaradi napredka umetne inteligence ta do leta 2029 kosala s povprečno izobraženim človekom. Nick Bostrom, predavatelj filozofije v Oxfordu, je previdnejši. Ne navaja datuma, temveč meni, da filozofi in matematiki ubadanje s temeljnimi vprašanji prelagajo na »superinteligentne« naslednike, ki jim pripisuje, da bodo imeli intelekt, daleč zmogljivejši od kognitivne zmožnosti ljudi na tako rekoč vseh področjih.

Oba verjameta, da bo mogoč skok pri napredku, ko bodo stroji dosegli človeško raven inteligentnosti – Kurzweil je to poimenoval singularnost, Bostrom pa eksplozija inteligence. Takrat nas bodo zelo hitro občutno nadkrilili na vseh področjih. Trdita, da se bo to zgodilo, ker so nadpovprečni dosežki računalnikov enaki povprečnim dosežkom ljudi, razlika je le, da so vse pomembne računske operacije opravljene veliko hitreje; Bostrom je to poimenoval hitra superinteligenca.

Kaj pa najvišja raven človeškega delovanja – ustvarjalne inovacije? Bodo naše najustvarjalnejše umetnike in mislece prekosili stroji?

Ne.

Človeški ustvarjalni podvigi zaradi svoje družbene vpetosti ne bodo podlegli napredku pri umetni inteligenci. Kdor trdi drugače, ne razume niti, kaj so ljudje, niti tega, kaj pomeni naša ustvarjalnost.

Ta trditev ni absolutna, temveč je odvisna od norm, ki jim dopuščamo, da določajo našo kulturo in pričakovanja v zvezi s tehnologijo. Ljudje so v preteklosti veliko moč in genij pripisovali celo neživim totemom. Mogoče bomo umetno inteligentne naprave videli toliko boljše od nas, da jim bomo samoumevno pripisovali tudi ustvarjalnost. To se ne bo zgodilo, ker bi nas stroji dejansko prekosili, temveč zato, ker bomo podcenjevali sami sebe.

Poleg tega pišem predvsem o napredku strojev, kot smo mu priče v zadnjem času zaradi trenutne paradigme globokega učenja in njenih računskih naslednikov. Raziskave umetne inteligence so bile v preteklosti pod vplivom drugih paradigem, ki niso izpolnile pričakovanj. V prihodnosti bomo morda spoznali popolnoma drugačne vzorce, a če špekuliramo, da bo neka namišljena prihodnja umetna inteligenca, katere lastnosti niti ne znamo konkretneje opisati, ustvarjala čudeže, je to samo mit, ne razumski argument o možnostih tehnologije.

Ustvarjalni dosežki funkcionirajo različno na različnih področjih. V tem članku ne morem razgrniti popolne taksonomije različnih vrst ustvarjalnosti, zato bom svoje trditve poskušal ponazoriti s tremi zelo različnimi primeri: glasbo, igrami in matematiko.

Glasba za moja ušesa

Si zmoremo predstavljati napravo s takšno nadčloveško ustvarjalno zmožnostjo, da bi pripomogla k tako občutni spremembi pri našem umevanju glasbe, kot je to uspelo Schönbergu?

Trdim, da stroj tega ne zmore. Naj pojasnim.

Računalniški sistem skladanja glasbe obstaja že nekaj časa. Kurzweil je leta 1965, ko je imel 17 let, uporabljal predhodnika sistemov prepoznavanja vzorcev, ki danes zaznamujejo algoritme za globoko učenje. Programiral je računalnik, da je skladal prepoznavno glasbo. Različice te tehnike se uporabljajo še danes. Algoritmi za globoko učenje imajo za vhodne podatke lahko kup Bachovih koral, na primer, in nato ustvarijo glasbo v tako značilnem Bachovem slogu, da prelisičijo celo strokovnjake in verjamejo v njeno pristnost. Gre za posnemanje. To glasbeniki počnejo, ko se še učijo: posnemajo in izpopolnjujejo slog drugih skladateljev in si ne prizadevajo za pristnost, izvirnost. To ni glasbena ustvarjalnost, kot jo povezujemo z Bachom, kaj šele s Schönbergovo revolucionarno inovacijo.

Kaj bi lahko sklepali na podlagi tega? Bi lahko kdaj razvili napravo, ki bi podobno kot Schönberg izumila popolnoma nov način skladanja? Seveda si je to mogoče zamisliti in celo sestaviti takšen stroj. Če bi imeli algoritem, ki bi dopolnjeval lastna pravila skladanja, bi brez težav lahko razvili napravo za skladanje drugačne glasbe, kot danes velja za kakovostno, podobno kot je v svojem času ustvarjal Schönberg.

Na tej točki se zaplete.

Schönberg ne velja za ustvarjalnega inovatorja le, ker je razvil nov način skladanja glasbe, temveč zato, ker so ljudje v njem videli vizijo, kakšen naj bi bil svet. Schönbergova vizija je vključevala skromni, čisti, učinkoviti minimalizem sodobnosti. Njegova inovacija ni le to, da je našel nov algoritem za skladanje, temveč tudi način razmišljanja o tem, kakšna je glasba, ki lahko nakazuje, kaj potrebujemo danes.

Morda bo kdo ugovarjal, da sem letvico nastavil previsoko. Vprašal se bo, ali trdim, da naprava potrebuje nekakšen mistični, neoprijemljivi občutek, kaj je družbeno nujno, da šteje za ustvarjalno. Tega ne trdim, in sicer zaradi dvojega.

Prvič, ne smemo pozabiti, da je Schönberg spremenil naše umevanje, kaj je glasba, ko je prispeval novo, matematično tehniko za skladanje glasbe. Samo za ustvarjalnost takšne vrste, ki se zoperstavlja tradiciji, je nujna nekakšna družbena občutljivost. Če poslušalci te tehnike ne bi doživljali kot antitradicionalizma v osrčju radikalne sodobnosti, ki se je rojevala na Dunaju z začetka 20. stoletja, je morda ne bi zaznali kot nekaj estetsko vrednega. Povedati želim, da radikalna ustvarjalnost ni »pospešena« različica vsakdanje ustvarjalnosti. Schönbergov dosežek ni stopnjevana ali boljša različica vrste ustvarjalnosti, kot jo je prikazal Oscar Straus ali kateri drugi povprečni skladatelj, temveč gre za nekaj popolnoma drugačnega.

Drugič, ne trdim, da mora biti ustvarjalčeva odzivnost na družbeno potrebo zavestna, ker sicer delo ne dosega meril genialnosti, temveč pravim, da moramo biti sposobni v nekem delu razbrati takšen odziv. Zmotno bi bilo skladbo stroja razlagati kot del takšne vizije sveta. To je mogoče preprosto podkrepiti.

Tisti, ki tako kot Kurzweil trdijo, da stroji lahko dosežejo človeško inteligenco, predpostavljajo, da človeški um pomeni imeti človeške možgane, ki delujejo na podlagi niza računalniških algoritmov – takšno stališče se imenuje kompjutacionalizem. Algoritmi imajo resda lahko moralne učinke, vendar sami po sebi niso moralni dejavnik. Ne moremo računati, da bo opica za pisalnim strojem, ki ji po naključju uspe natipkati ime Otelo, postala velik ustvarjalen dramatik. Če je v njenem izdelku veličina, je to naključje. Rezultat dela naprave se nam lahko zdi izvrsten, a če vemo, da je proizvod zgolj rezultat nekega naključnega dejanja oziroma algoritemskega formalizma, ga ne moremo šteti za izraz vizije za dobro človeštva.

Zato se mi zdi, da za pristno ustvarjalnega umetnika dejansko lahko štejemo izključno človeka. Morda bo umetna inteligenca nekoč presegla svoj računalniški formalizem, vendar bi bil za to nujen preskok, kot si ga trenutno ni mogoče zamisliti. Ne gre le za nove algoritme in postopke, ki posnemajo človekovo dejavnost, temveč tudi za nove materiale, ki tvorijo temelje tega, kar pomeni biti človek.

Posnetek človeka do zadnje molekule bi bil upoštevanja vreden osebek. A postopek, kako priti do takšnega živega bitja, že poznamo in traja približno devet mesecev. Trenutno naprava zmore le nekaj veliko manj zanimivega kot človek. Lahko ustvarja glasbo v Bachovem slogu, na primer, morda celo glasbo, ki je po oceni nekaterih strokovnjakov boljša od Bachove. A to je mogoče le, ker takšno glasbo lahko ocenjujemo le po že obstoječih merilih. Naprava pa ne more pripomoči k spremembam naših standardov pri presojanju kakovosti glasbe ali razumevanju, kaj je glasba in kaj ne.

S tem ne želim zanikati, da ustvarjalni umetniki uporabljajo orodja, ki so jim na voljo, in da ta orodja vplivajo na njihovo umetnost. Davis in Coleman sta svojo ustvarjalnost odkrila zaradi trobente, medtem ko to glasbilo samo po sebi ni ustvarjalno. Algoritmi umetne inteligence so bolj podobni glasbilom kot ljudem. Taryn Southern, tekmovalka v šovu American Idol, je izdala album, na katerem so za tolkala, melodije in akorde poskrbeli algoritmi, napisala pa je besedila in nenehno popravljala algoritme za instrumentalno spremljavo, dokler niso prinesli želenega rezultata. Na začetku 90. let je David Bowie počel ravno nasprotno: napisal je glasbo in uporabil Macovo aplikacijo Verbalizer, da je stavke naključno nekako premetal v besedilo. Tako kot stara orodja v glasbeni panogi – od snemalnih naprav do sintetizatorjev, vzorčevalnikov in zančnikov (looperjev) – tudi nova umetno inteligentna orodja delujejo tako, da spodbujajo in usmerjajo ustvarjalne zmožnosti človeških glasbenikov (in odsevajo njihove omejitve).

Igre brez meja

Veliko je bilo napisanega o dosežkih sistemov globokega učenja, ki so zdaj najboljši igralci goja na svetu. AlphaGo in njegove različice upravičeno lahko veljajo, da so pripomogle k popolnoma drugačnemu načinu igranja te igre. Človeške strokovnjake so naučile, da otvoritvene poteze, ki so doslej veljale za neposrečene, lahko vodijo k zmagi. Program igra v slogu, ki ga strokovnjaki opisujejo kot čudnega. »Takšen je, kot si zamišljam igre daleč v prihodnosti,« je slog programa AlphaGo komentiral eden najboljših igralcev goja Ši Jue. Zdi se, da je algoritem dejansko ustvarjalen.

V določenem in pomembnem pogledu tudi je, vendar je igranje iger nekaj drugega od skladanja glasbe in pisanja romana. Pri igrah imamo objektivno merilo uspešnosti. Vemo, da se lahko od programa AlphaGo česa naučimo, ker smo ga videli zmagati. A to je tudi nekaj, zaradi česar je igra go v domeni igrač, poenostavljen primer, ki pa ne pove vsega o svetu.

Najosnovnejša vrsta človeške ustvarjalnosti spreminja naše umevanje sebe, ker spreminja naše umevanje tega, kaj štejemo kot dobro. Nasprotno pa pri goju ta narava dobrega ni dosegljiva: strategija igre je dobra izključno, če pripelje do zmage. Človeško življenje pa na splošno ni takšno in na najvišji ravni dosežkov ne obstaja objektivno merilo uspešnosti. Prav gotovo to velja za umetnost, literaturo, glasbo, filozofijo in politiko, in ko smo že pri tem, tudi za razvoj novih tehnologij.

V različnih domenah igrač bi nas naprave morda lahko podučile o določeni, zelo omejeni obliki ustvarjalnosti. A pravila te domene so določena vnaprej in sistem je lahko uspešen le, ker se nauči dobro igrati v okviru teh omejitev. Človeška kultura in človeški obstoj sta veliko pestrejša. Seveda obstajajo pravila človekovega obnašanja, vendar je ustvarjalnost v pravem pomenu zmožnost spreminjanja teh pravil v eni od pomembnih človekovih domen. Uspešnost v domenah igrač ni znak, da je ustvarjalnost te osnovne vrste dosegljiva.

To je bomba

Skeptik bi morda trdil, da ta argument drži le zato, ker igre primerjam z umetniškim genijem. V kraljestvu znanosti in matematike obstajajo druge paradigme ustvarjalnosti. Pri njiju ne govorimo o viziji sveta, temveč o tem, kakšne so stvari v resnici.

Bi stroj lahko prišel do matematičnih dokazov, ki so nam tako nedosegljivi, da bi preprosto morali priznati njegov ustvarjalni genij?

Ne.

Računalniki že pomagajo pri pomembnih matematičnih dosežkih, vendar njihov prispevek ni bil kaj prida ustvarjalen. Vzemimo za primer prvi večji teorem, ki so ga dokazali z računalnikom. Gre za teorem o štirih barvah, po katerem bi lahko vsak zemljevid pobarvali z največ štirimi barvami, ne da bi bili dve sosednji »državi« enake barve (velja tudi za države na globusu). Pred skoraj pol stoletja, leta 1976, sta Kenneth Appel in Wolfgang Haken z univerze v Illinoisu predstavila računalniško podprt dokaz za ta teorem. Računalnik je opravil na milijarde preračunov in preveril na tisoče različnih vrst zemljevidov – toliko, da je bilo (in še vedno je) za človeka logistično neizvedljivo, da bi preveril vse možnosti. Odtlej so računalniki pomagali pri vrsti novih dokazov.

Vendar superračunalnik ne počne nič ustvarjalnega, ko preverja veliko število primerov, temveč neštetokrat ponovi nekaj dolgočasnega. To se zdi skoraj nasprotje od ustvarjalnosti. Poleg tega je to tako daleč od vrste vpogleda, kot si običajno predstavljamo matematični dokaz, da nekateri strokovnjaki te računalniško podprte strategije sploh nimajo za matematične dokaze. Kot razmišlja Thomas Tymoczko, filozof matematike, pravzaprav zaupamo potencialno k napakam nagnjenemu računalniškemu postopku, če sploh ne moremo preveriti, ali dokaz drži.

Tudi ob predpostavki, da tem rezultatom zaupamo, so računalniško podprti dokazi nekakšna analogija računalniško podprtemu skladanju glasbe. Če pripomorejo k dostojnemu izdelku, je za to večinoma zaslužen človekov prispevek. A nekateri strokovnjaki trdijo, da bo umetna inteligenca zmožna doseči več od tega. Predpostavljajmo torej, da imamo na voljo vrhunsko orodje: samozadostno napravo, ki sama dokazuje nove teoreme.

Bi nas takšna naprava lahko daleč prekosila v matematični ustvarjalnosti, kot sta prepričana Kurzweil in Bostrom? Recimo, da bi umetna inteligenca prišla do rešitve izjemno pomembnega in zelo zahtevnega nerešenega vprašanja v matematiki.

Možnosti sta dve. Prva je, da je dokaz izjemno zapleten, in ko ga strokovnjaki preverijo, odkrijejo, da je pravilen. V tem primeru bi slavili umetno inteligenco, ki je odkrila dokaz. Celo samo napravo bi nekateri imeli za ustvarjalno. Vendar takšna naprava ne bi bila dokaz singularnosti, poleg tega nas ne bi toliko prekašala v ustvarjalnosti, da ne bi mogli sploh razumeti, kaj počne. Tudi če bi posedovala ustvarjalnost na ravni človeške, to ne bi nujno vodilo v kraljestvo nadčloveškega.

Nekateri matematiki so kot glasbeni virtuozi: razpoznavni so po svojem poznavanju obstoječega idioma. A geniji, kot so Srinivasa Ramanujan, Emmy Noether in Alexander Grothendieck, so dokazano spremenili matematiko, podobno kot je Schönberg preoblikoval glasbo. Njihovi dosežki niso bili preprosto dokaz starih hipotez, temveč nove in presenetljive oblike argumentiranja, ki ni zaznamovala le njihove prepričljive logike, temveč tudi njihovo zmožnost prepričati druge matematike o pomenu njihovih inovacij. Teoretična umetna inteligenca, ki bi našla prepričljiv dokaz za vprašanje, ki bi že dolgo begalo človeške matematike, bi bila nekaj takšnega kot AlphaGo in njegove različice: osupljiva, vendar Schönbergu ne bi segla niti do gležnjev.

In tako smo pri drugi možnosti. Recimo, da bi se najboljši in najbistrejši algoritem za globoko učenje izmuznil nadzoru in čez nekaj časa prijavil, da je našel dokaz za popolnoma nov teorem, vendar bi bil prezapleten tudi za najboljše matematike in ga ne bi razumeli.

To v resnici ni mogoče. Dokaz, ki ga ne bi razumeli niti najboljši matematiki, pravzaprav ne more šteti za dokaz. Dokazati nekaj pomeni dokazati nekomu. Tako kot mora glasbenik prepričati svoje občinstvo, da sprejme njegov estetski koncept, kaj je dobra glasba, mora matematik prepričati svoje kolege, da upravičeno lahko verjamejo njegovi viziji resnice. V matematiki neka trditev velja za dokaz, če jo razume in podpre neodvisna skupina strokovnjakov, ki jo je zmožna razumeti. Če strokovnjaki, ki bi morali razumeti dokaz, dvignejo roke nad njim, tudi skupnost ne potrdi njegove dokazne moči.

Matematika je zato bolj podobna glasbi, kot bi kdo mislil. Naprava nas ne bi mogla bistveno preseči pri ustvarjalnosti, ker bi razumeli njen dosežek in zato ne bi mogel veljati za presežek ali pa ga ne bi razumeli in v tem primeru ne bi mogel šteti za ustvarjalni napredek.

Vsake oči imajo svojega malarja

Inženirstvo in uporabna znanost sta v nekem oziru nekje vmes med zgoraj opisanimi primeri. Obstaja nekaj, kar bi lahko imenovali objektivno, zunanje merilo uspešnosti. Pri gradnji mostu ali zdravljenju ne moremo »zmagati« tako kot pri šahu, vseeno pa lahko vidimo, ali se most podre in ali je virus premagan. Ta objektivna merila pridejo v poštev šele, ko je domena razmeroma dobro opisana: izum močnega, lahkega materiala, na primer, oziroma zdravila, ki učinkuje proti neki bolezni. Umetna inteligenca bi lahko pomagala pri odkrivanju zdravil, če bi počela enako kot umetna inteligenca, ki je skomponirala nekaj, kar je zvenelo kot dobro odigrana Bachova kantata, in ki je izumila izvrstno strategijo za go. Tako kot mikroskop, teleskop in računalo bi takšno umetno inteligenco upravičeno razumeli kot orodje, ki človeku omogoča nova odkritja – ne pa kot samostojnega ustvarjalnega akterja.

Koristna pomoč pri tem je posebna teorija relativnosti. Alberta Einsteina se spomnimo kot odkritelja relativnosti, pa ne zato, ker je prvi prišel do enačb, ki bolje opisujejo strukturo prostora in časa. George Fitzgerald, Hendrik Lorentz, Henri Poincare in drugi so te enačbe zapisali davno pred Einsteinom. On za avtorja teorije velja, ker je izvirno, osupljivo in globoko razumel, kaj pomenijo te enačbe, in je ta pomen znal posredovati tudi drugim.

Da bi naprava lahko dosegla nekaj na področju fizike, kar bi se vsaj okvirno lahko kosalo z Einsteinovo ustvarjalnostjo, bi morala znati vsaj tako dobro kot on prepričati druge fizike o pomenu svojih zamisli. To pomeni, da bi ljudje morali biti zmožni razumeti njene zamisli kot način za posredovanje lastne veljavnosti. Če bi takšna naprava res kdaj obstajala, bi tako kot v zgodbi o Ostržku morali z njo ravnati, kot bi bila oseba. To pomeni, da bi ji med drugim poleg inteligentnosti morali pripisovati tudi dostojanstvo in moralno vrednost, kot ju sicer imamo za primerna pri človeku. Do takšnega razpleta je po mojem mnenju še zelo daleč in prav nobenega razloga ni za prepričanje, da bi nam ga sedanja kompjutalizacijska paradigma umetne inteligence – niti v svoji obliki globokega učenja niti v katerikoli drugi obliki – lahko kdaj približala.

Ustvarjalnost je ena odločilnih človekovih lastnosti. Zmožnost za pristno ustvarjalnost, takšno, ki nadgradi naše umevanje narave obstoja in ki spreminja naše umevanje, kaj naj bi bilo lepo, dobro ali resnično, je temelj tega, kaj pomeni biti človek. Vendar je takšna ustvarjalnost odvisna od tega, kako jo cenimo in koliko nam pomeni sama po sebi. Kot je poudaril pisec Brian Christian, se ljudje počasi obnašamo vse manj kot bitja, ki cenijo ustvarjalnost kot eno svojih največjih zmožnosti, in vse bolj kot same naprave.

Koliko ljudi ima danes takšno službo, v kateri morajo upoštevati vnaprej sestavljeni scenarij za svoje pogovore? Koliko tega, kar poznamo kot resnično, pristno, ustvarjalno in odprto človeško komunikacijo, še ostane v tej raztelešeni predstavi? In v kakšni meri spominja na takšno upoštevanje pravil, kot ga zmore stroj? Koliko nas, če si dovolimo, da nas potegne v takšne predstave z vnaprej spisanim scenarijem, je prav tako raztelešenih? Kolikšnemu delu dneva dovolimo, da je zapolnjen s tako rekoč strojnimi dejavnostmi – izpolnjujemo računalniške obrazce in vprašalnike, odzivamo se na vabe za klike, ki temeljijo na naših najosnovnejših, najbolj živalskim podobnih vzgibih, igramo igre, ki so zasnovane tako, da dosežejo čim večjo odvisnost?

Ta zmeda nas ogroža tudi v nekaterih najizrazitejših domenah človekovih dosežkov. Če si bomo dopustili reči, da so strojni dokazi, ki jih ne razumemo, pristni, če bomo družbeno avtoriteto prepustili strojem, bomo na dosežke matematikov gledali, kot da zanje sploh ni potrebno človeško razumevanje. Nekaj najvišjih oblik svoje ustvarjalnosti in inteligentnosti bomo oklestili na en sam bit informacije: da ali ne.

Četudi bi imeli to informacijo, nam ne bi veliko pomenila, če ne bi vsaj delno razumeli njenih izhodišč. Temeljnih potez logičnega sklepanja, ki predstavljajo temelj tega, kar je matematika, ne smemo prezreti. Enako velja za umetnost, glasbo, filozofijo in literaturo. Če bomo dovolili, da nam zdrsne na tem področju, in bomo na strojno »ustvarjalnost« gledali kot na nadomestek naše, bodo naprave na videz res postale nedoumljivo boljše od nas. Vendar bo krivo to, da bomo izgubili občutek za temeljni pomen, ki ga ima ustvarjalnost za človeka.

Copyright 2019 Technology Review, distribucija Tribune Content Agency.