uredi› krajšaj› T:200 M:545 Z: [×]

Bo OpenAI Q* res presegel človeka?

Analiza pompa zaradi novega zloglasnega modela OpenAI.

Melissa Heikkilä, MIT Technology Review

Vse od dramatičnih dogodkov v OpenAI pred dobrim mesecem dni se kar množijo ugibanja o tem, zakaj sta se vodja znanstvenega oddelka Ilya Sutskever in upravni odbor odločila odpustiti direktorja Sama Altmana. Podrobnosti niso znane, govori pa se, da je raziskovalcem v OpenAI uspel »prelomni dosežek« na področju umetne inteligence, zaradi katerega se je med zaposlenimi razširil strah. Reuters in The Information poročata, da so odkrili nov način za razvoj zmogljivih sistemov umetne inteligence in ustvarili nov model, imenovan Q* (izgovarja se Q star), ki naj bi zmogel tudi matematične naloge na ravni osnovne šole. Kot je izvedel Reuters, so nekateri zaposleni v OpenAI prepričani, da bi to lahko predstavljajo mejnik v prizadevanjih podjetja za izgradnjo umetne splošne inteligence, koncepta, okrog katerega se dviguje toliko prahu in pomeni sistem, ki je pametnejši od ljudi. Podjetje ni želelo odgovarjati na vprašanja o Q*.

Družbena omrežja prekipevajo od ugibanja in pretiranega pompa, zato sem poklicala nekaj strokovnjakov, da bi ugotovila, kakšen bi bil dejanski pomen kateregakoli prelomnega dosežka pri matematiki in umetni inteligenci.

Raziskovalci se že leta trudijo, da bi modele umetne inteligence pripravili do reševanja matematičnih problemov. Jezikovni modeli, kot sta ChatGPT inGPT-4, zmorejo nekaj matematike, vendar v tem niso ravno dobri in zanesljivi. Trenutno nimamo algoritmov niti pravih ustrojev, da bi z umetno inteligenco lahko zanesljivo reševali matematične probleme, se strinja tudi Wenda Li, predavatelj o tem področju na univerzi v Edinburgu. Globoko učenje in transformatorji (nekakšne nevronske mreže), na katerih temeljijo jezikovni modeli, so odlični za prepoznavanje vzorcev, vendar to najbrž ne bo dovolj, meni Li.

Kot pravi, je matematika merilo za ocenjevanje zmožnosti logičnega razmišljanja. Naprava, ki lahko logično razmišlja o matematiki, bi se teoretično lahko naučila opravljati še druge naloge na podlagi obstoječih podatkov, na primer napisati računalniški kod in sklepati glede na navedbe v časopisnem članku. Matematika je tako zahteven izziv, ker mora model umetne inteligence biti zmožen logično sklepati in dejansko razumeti, s čim ima opravka.

Generativni sistem umetne inteligence, ki bi lahko zanesljivo preračunaval matematične operacije, bi moral res dobro dojemati konkretne definicije določenih konceptov, ki so lahko zelo abstraktni. Pri veliko matematičnih problemih ne gre brez precejšnje ravni načrtovanja več korakov, je pojasnila Katie Collins, raziskovalka na doktorskem študiju na univerzi v Cambridgeu, specialistka za matematiko in umetno inteligenco. Yann LeCun, vodja znanstvenikov na področju umetne inteligence v Meti, pa je na platformi X in Linkedinu objavil, da je po njegovem mnenju Q* poskus načrtovanja OpenAI (namesto napovedovanja).

Tisti, ki izražajo zaskrbljenost, ali umetna inteligenca predstavlja eksistencialno tveganje za ljudi, o čemer veliko razmišljajo tudi v OpenAI, se bojijo, da bi takšne zmogljivosti povzročile razvoj zlonamerne umetne inteligence. Če bi takšnim umetnointeligenčnim sistemom omogočili, da bi postavljali lastne cilje in se začeli povezovati z dejanskim fizičnim ali digitalnim svetom, bi to lahko predstavljalo varnostno tveganje, razmišlja Collinsova.

Matematične zmogljivosti bi resda pomenile korak naprej v smeri proti močnejšim sistemom, kljub temu pa reševanje matematičnih problemov ne naznanja rojstva superinteligence.

»Po mojem mnenju to ne pomeni niti rojstva umetne splošne inteligence niti soočanja z grozljivimi situacijami,« pomirja Collinsova. Treba je poudariti tudi, kakšne matematične probleme je umetna inteligenca zmožna reševati, je dodala.

»Osnovnošolski matematični problemi so nekaj čisto drugega od prestavljanja meja matematike na raven, ki jo zmorejo Fieldsovi nagrajenci,« je pojasnila Collinsova. Fieldsova medalja je nekakšna matematična ustreznica Nobelove nagrade.

Raziskave strojnega učenja se osredotočajo na reševanje osnovnošolskih problemov, vendar najsodobnejši sistemi umetne inteligence tega oreha še niso strli. Nekaterim modelom se zatakne pri res preprostih nalogah, blestijo pa pri zelo zahtevnih problemih, je povedala Collinsova. OpenAI je razvil posebna orodja, ki rešujejo probleme na matematičnih tekmovanjih najboljših gimnazijcev, vendar človeka presežejo le izjemoma.

No, razvoj sistema za reševanje matematičnih enačb je vsekakor nekaj omembe vrednega, če novi Q* to res zmore. S poglobljenim razumevanjem matematike bi lahko razširili uporabo na pomoč pri znanstvenih raziskavah in inženiringu. Zmožnost generiranja matematičnega odziva bi tudi olajšala prilagajanje pomoči pri učenju in matematikom omogočila hitrejše računanje ter reševanje zapletenih matematičnih problemov.

To torej ni prvič, da je nov model dvignil prah zaradi morebitne umetne splošne inteligence. Lani so v tehnoloških krogih enako govorili o Googlovem Deepmindovem Gatu, globoki nevronski mreži, zmožni številnih opravil, med drugim igranja videoiger, opremljanja podob, klepetanja in postavljanja kock s pravo robotsko roko. Takrat so nekateri raziskovalci trdili, da bo Deepmind zdaj zdaj predstavil umetno splošno inteligenco, ker Gato dokaj dobro zmore toliko opravil. Iz istega razloga zdaj pozornost vzbuja drugi laboratorij za umetno inteligenco.

Ves ta občasni hrušč in trušč je morda res odlična reklama, vendar lahko panogi naredi več škode kot koristi, saj odvrača pozornost od dejanskih, oprijemljivih težav, povezanih z umetno inteligenco. Govorice o zmogljivem novem modelu bi lahko bile tudi zahteven lastni cilj za tehnološki sektor, nenaklonjen predpisom in zakonom. Evropska unija je, denimo, tik pred tem, da sprejme daljnosežni zakon o umetni inteligenci. Trenutno največ vroče krvi pri zakonodajalcih povzroča vprašanje, ali naj tehnološkim družbam omogočijo večje pristojnosti, da bodo same sprejele predpise za najsodobnejše modele umetne inteligence.

Upravni odbor OpenAI je zasnovan kot notranja varovalka podjetja, s katero bi lahko preprečili uvajanje škodljive tehnologije. Drama, ki se je odvijala prejšnji mesec, je dokaz, da v teh družbah vedno prevlada bilanca. Zaradi nje bo tudi težje zagovarjati, zakaj bi jim smeli zaupati, da se bodo samoregulirale. Zakonodajalci, zapomnite si jo.

Copyright Technology Review, distribucija Tribune Content Agency.