Þorsteinn Siglaugsson, hagfræðingur og sérfræðingur í notkun gervigreindar, segir grundvallarmisskilnings gæta í umræðunni um gervigreind. Hann kom að Rauða borðinu á Samstöðinni til að ræða málin við Gunnar Smára og útskýrði þar að þrátt fyrir getu tækninnar til að leysa flókin verkefni, sé hún í grunninn ekki rökhugsandi í mannlegum skilningi. Meginvirkni hennar sé í raun mun einfaldari en margir halda.

„Í grunni þá virkar hún ósköp einfaldlega bara þannig, það sem hún er að gera er það að hún er að spá fyrir næsta orð í setningu,“ sagði Þorsteinn.

Gunnar Smári, stjórnandi þáttarins, ályktaði út frá þessu að framsetning hennar væri þá eins konar meðaltal af öllu því sem hún hefur lært. „Hún talar eins og oftast hefur verið talað. Dregnar ályktanir eins og oftast,“ sagði Gunnar. Hann líkti þessari getu við „súper Google“ og dró þá ályktun að varla væri um raunverulega greind að ræða. „Þetta er ekki beint greind, sko, þetta er bara reiknigeta eða hún er bara svo fljót að leita,“ sagði Gunnar Smári.

Þorsteinn tók undir þessa greiningu og benti á að takmarkanir tækninnar kæmu skýrt fram þegar á rökfræði reynir. Hann vísaði í nýlega rannsókn frá Apple þar sem gervigreindarlíkön voru látin glíma við rökfræðiþrautir. Niðurstaðan var afgerandi. „Þegar þetta er orðið flókið, töluvert flókið, þá klikka þau öll. Þau ná ekki að vinna úr mjög flóknum rökfræðilegum gátum.“

Þorsteinn telur þetta benda til þess að líkönin séu ekki að hugsa sjálfstætt, heldur aðeins að endurkalla mynstur úr þjálfunargögnum sínum. „Líkanið, það er í rauninni ekki að hugsa. Það er bara sem sagt að kveða upp það sem að það hefur,“ sagði hann.

Að lokum lagði hann áherslu á að reynsla hans af því að nota tæknina til að leysa flókin vandamál staðfesti þetta. „Mín reynsla… er sú að til þess að það virki þá verð ég alltaf að þvinga þau til þess að fylgja ákveðnum reglum,“ sagði Þorsteinn. „Ég verð að setja reglurnar inn og ég verð að þvinga líkanið til þess að fylgja reglunni skref fyrir skref, annars nær það ekki tökum á verkefninu.“