Gervigreindin er ekki greind: „Hún er að spá fyrir um næsta orð í setningu“

Þorsteinn Siglaugsson, hagfræðingur og sérfræðingur í notkun gervigreindar, segir grundvallarmisskilnings gæta í umræðunni um gervigreind. Hann kom að Rauða borðinu á Samstöðinni til að ræða málin við Gunnar Smára og útskýrði þar að þrátt fyrir getu tækninnar til að leysa flókin verkefni, sé hún í grunninn ekki rökhugsandi í mannlegum skilningi. Meginvirkni hennar sé í raun mun einfaldari en margir halda.

„Í grunni þá virkar hún ósköp einfaldlega bara þannig, það sem hún er að gera er það að hún er að spá fyrir næsta orð í setningu,“ sagði Þorsteinn.

Gunnar Smári, stjórnandi þáttarins, ályktaði út frá þessu að framsetning hennar væri þá eins konar meðaltal af öllu því sem hún hefur lært. „Hún talar eins og oftast hefur verið talað. Dregnar ályktanir eins og oftast,“ sagði Gunnar. Hann líkti þessari getu við „súper Google“ og dró þá ályktun að varla væri um raunverulega greind að ræða. „Þetta er ekki beint greind, sko, þetta er bara reiknigeta eða hún er bara svo fljót að leita,“ sagði Gunnar Smári.

Þorsteinn tók undir þessa greiningu og benti á að takmarkanir tækninnar kæmu skýrt fram þegar á rökfræði reynir. Hann vísaði í nýlega rannsókn frá Apple þar sem gervigreindarlíkön voru látin glíma við rökfræðiþrautir. Niðurstaðan var afgerandi. „Þegar þetta er orðið flókið, töluvert flókið, þá klikka þau öll. Þau ná ekki að vinna úr mjög flóknum rökfræðilegum gátum.“

Þorsteinn telur þetta benda til þess að líkönin séu ekki að hugsa sjálfstætt, heldur aðeins að endurkalla mynstur úr þjálfunargögnum sínum. „Líkanið, það er í rauninni ekki að hugsa. Það er bara sem sagt að kveða upp það sem að það hefur,“ sagði hann.

Að lokum lagði hann áherslu á að reynsla hans af því að nota tæknina til að leysa flókin vandamál staðfesti þetta. „Mín reynsla… er sú að til þess að það virki þá verð ég alltaf að þvinga þau til þess að fylgja ákveðnum reglum,“ sagði Þorsteinn. „Ég verð að setja reglurnar inn og ég verð að þvinga líkanið til þess að fylgja reglunni skref fyrir skref, annars nær það ekki tökum á verkefninu.“

Við þurfum á þér að halda

Þú getur tekið þátt í að byggja upp öflugum fjölmiðli.

Samstöðin er í eigu lesenda, áhorfenda og áheyrenda. Með því að gerast áskrifandi getur þú orðið félagi í Alþýðufélaginu og þar með eigandi að Samstöðinni.

Áskrifendur borga fyrir það efni sem þeir nota en tryggja í leiðinni að aðrir geti notið þess. Þetta er því ekki eigingjörn áskrift heldur rausnarleg og samfélagslega ábyrg.

Samstöðin byrjaði sem umræðuþættir á Facebook en er nú orðinn að fréttavef, útvarps- og hlaðvarpsþáttum, skoðanapistlum og sjónvarpsdagskrá.

Við trúum að Samstöðin skipti máli fyrir samfélagið, að það sé þörf fyrir róttæka umræðu um málefni sem snerta fólk út frá sjónarhóli og hagsmunum almennings.

Ef þú ert sama sinnis skaltu endilega gerast áskrifandi að Samstöðinni og þar með einn af eigendum hennar.

Þitt framlag skiptir máli.

Ég vil styrkja Samstöðina arrow_forward

Rauða borðið
í beinni
Rauða borðið, 24. maí