Ástæða þess að stjórn gervigreindarfyrirtækisins OpenAI sagði Sam Altman forstjóra þess upp í síðustu viku er þróun nýs líkans sem nokkrir sérfræðingar innan fyrirtækisins óttast að geti ógnað mannkyni. Reuters greinir frá þessu í dag, fimmtudag.

Fimm daga útlegð forstjórans

Hverjum sem fylgist með þróun gervigreindar þessi misserin, þó ekki sé nema lauslega, var komið verulega á óvart á föstudag í síðustu viku, þegar tilkynnt var að fyrirtækið OpenAI hefði sagt forstjóranum, Sam Altman, upp störfum. OpenAI er fyrirtækið að baki ChatGPT, spjallkerfi sem byggir á viðamiklu mállíkani og varð fyrr á árinu til að vekja almenning til meðvitundar um hraðar framfarir á sviðinu. Sem forstjóri hefur Sam Altman verið andlit fyrirtækisins út á við, en var þegar þekktur sem nokkurs konar undrabarn innan tæknigeirans.

Næstu daga fór dramatísk atburðarás af stað innan fyrirtækisins og með aðkomu Microsoft, sem hafði fjárfest í því fyrir að minnsta kosti tíu milljarða dala, síðast þegar spurðist, sem samsvarar hérumbil samanlögðum skuldum allra þriggja íslensku bankanna sem féllu í hruninu 2008. 750 starfsmenn OpenAI hótuðu umsvifalaust uppsögn ef Altman yrði ekki ráðinn aftur. Microsoft réði hann til starfa hjá sér og örstuttu síðar var tilkynnt að samkomulag hefði náðst um endurskipun stjórnar OpenAI og endurráðningu Altmans sem forstjóra fyrirtækisins. Hann er með öðrum orðum, innan við viku eftir uppsögn, kominn aftur.

Nýja líkanið Kústirni

Nú myndi almenning ekki endilega varða um innri átök í svona fyrirtæki í hvaða tilfelli sem er. En eftir stendur spurningin um hvað þetta snerist allt saman. The Guardian og fleiri fréttamiðlar gera því skóna í dag að tilefnið fyrir því uppnámi innan stjórnarinnar, sem varð til þess að Altman var rekinn, hafi verið nýtt líkan sem fyrirtækið hefur þróað og nefnist Q*, borið fram Q-Star eða Kústirni. Samkvæmt Reuters skrifaði hópur sérfræðinga innan fyrirtækisins bréf til stjórnarinnar þar sem þau vöruðu við getu líkansins og þeim hættum sem gætu stafað af því.

Heimildamenn Reuters nefndu ekki nákvæmlega í hverju hættan var sögð fólgin. Ótal sérfræðingar, að Altman meðtöldum, hafa varað við margvíslegum ógnum af of hraðri þróun gervigreindar. Annars dagfarsprúðir vísindamenn og verkfræðingar hafa sagt að ríki heims verði að taka þróun tækninnar sömu tökum og þróun kjarnorku og kjarnorkuvopna á síðustu öld. Á meðan afdrifaríkar tækninýjungar hafa áður sett vinnumarkaði í uppnám og haft samfélagsbreytingar í för með sér er ýktasta hættan í þessu samhengi talin stafa af þróun „almennrar gervigreindar“ (AGI), sem óttast er að gæti reynst erfitt fyrir óbreytt mannfólk að hafa stjórn á.

Óljósar heimildir

Kústirnið er mállíkan, rétt eins og GPT, en er að sögn miðilsins fært um að leysa stærðfræðiþrautir sem það hefur ekki séð áður. Það þykir veigamikið skref í þróun þessara líkana, og er í augum einhverra hættulega stórt skref í átt að almennri gervigreind.

Í frásögn Reuters er því bætt við að í síðustu viku, rétt fyrir uppsögnina, hafi Altman haft orð á því við Joe Biden og fleiri þjóðarleiðtoga á ráðstefnu efnahagsbandalags Asíu- og Kyrrahafsríkja (APEC) í San Francisco, að fjórum sinnum í sögu OpenAI hafi hann fengið að vera í herbergi þar sem „sjónarrönd uppgötvana“ hafi þokað fram á við, og síðasta skiptið hafi verið þá aðeins tveimur vikum fyrr.

The Guardian gerir ekki ljóst í umfjöllun sinni hvaða heimildir liggja að baki þeirri frásögn að ósætti vegna hins nýja líkans hafi orðið tilefni þess að forstjóranum var sagt upp. Talsmenn fyrirtækisins hafa áður sagt að stjórnin hafi „ekki sagt Altman upp störfum vegna tiltekins ágreinings um öryggismál“.