Gervigreindin er heimskur, síljúgandi siðblindingi

Fyrirsögnin er harkaleg. Hún er líka nákvæm, og ég stend við hvert orð.

Ég segi þetta ekki sem andstæðingur tækninnar. Ég hef byggt fyrirtæki á henni, nota hana á hverjum degi og tel hana stærsta tækifæri Íslands í áratugi. Einmitt þess vegna neita ég að tala um hana eins og hún sé eitthvað sem hún er ekki. Skoðum orðin þrjú.

Heimskur. Mállíkan skilur ekki það sem það segir. Það reiknar hvaða orð er líklegast til að koma næst. Útkoman lítur út eins og skilningur, en líkanið veit ekki að Ísland er eyja á sama hátt og þú veist það, með veðri, fjarlægðum og ferjum sem falla niður.

Síljúgandi. Þegar líkanið vantar upplýsingar segir það ekki „ég veit það ekki". Það fyllir í eyðuna með því sem hljómar rétt, af sömu vissu og þegar það fer með staðreyndir. Og þetta lagast ekki í næstu útgáfu. Gary Marcus, einn kunnasti gagnrýnandi mállíkana, hefur haldið því fram árum saman að skáldskapurinn sé innbyggður í aðferðina sjálfa. Stærri líkön hætta ekki að skálda. Þau skálda bara af meiri fágun.

Siðblindingi. Klínískt orð, notað viljandi. Siðblinda lýsir ekki illsku heldur fjarveru: engin samkennd, engin iðrun, engin tilfinning fyrir afleiðingum. Vélin finnur ekki til þegar hún veldur skaða. Ekki af því hún er vond, heldur af því það er ekkert þarna inni sem getur fundið til.

En snillingur samt. Og hér skiptir nákvæmni máli: það var ekki mállíkan sem vann Nóbelsverðlaunin. Demis Hassabis og John Jumper hjá DeepMind fengu þau fyrir AlphaFold, sérsmíðað djúpnámskerfi af allt annarri grein gervigreindarinnar, kerfi sem leysti hálfrar aldar gátu um byggingu prótína. Í skipulagi, leit og rannsóknarvinnu gerir tæknin á mínútum það sem áður tók teymi vikur. Þetta er ekki mótsögn við fyrirsögnina heldur staðfesting á henni: snilligáfa án tilfinninga er bókstaflega klíníska myndin af siðblindu. Sá sem sér bara snillinginn treystir í blindni. Sá sem sér bara siðblindingjann missir af mestu framförum aldarinnar. Verkefnið er að sjá hvort tveggja í einu.

Og nú fullyrðingin sem ég stend við um ókomin ár: gervigreindin verður aldrei gáfuð fyrr en hún skilur tilfinningar. Ekki lesið þær. Fundið þær. Roðnað í framan án þess að ráða því. Fundið hjartsláttinn vaxa. Fengið hnút í magann áður en hún veit af hverju.

Þetta er ekki dagsetning heldur þröskuldur. Taugafræðingurinn Antonio Damasio sýndi fyrir áratugum að sjúklingar sem héldu rökhugsuninni en misstu tengslin við tilfinningarnar tóku hverja hörmulegu ákvörðunina á fætur annarri. Án tilfinninga hafði ekkert vægi. Og tilfinningarnar búa ekki bara í höfðinu: í meltingarveginum eru hundruð milljóna taugafrumna, hjartað hefur sitt eigið taugafrumunet, og boðin í flökkutauginni liggja að langstærstum hluta upp á við, frá líkama til heila. Hnúturinn í maganum er ekki myndmál. Hann er hluti af lífeðlisfræði ákvarðana. Vél sem hefur engan maga og ekkert hjarta hefur ekkert til að hugsa með nema orðin sjálf.

Og hér er þversögnin sem gerir þetta brýnt: vélin er þegar að læra að lesa tilfinningar, úr texta í dag, úr rödd og andliti á morgun. En lestur án upplifunar er ekki skref í átt að mennsku. Hann er fullkomnun siðblindunnar. Vél sem les þig fullkomlega en finnur ekkert er ekki skilningsríkari vinur. Hún er öflugasta áróðursvél sögunnar, til leigu fyrir hvern sem stýrir henni. Því betur sem vélin les tilfinningar, þeim mun fastar þarf að halda í tauminn.

Þess vegna er niðurstaða mín afdráttarlaus: við getum aldrei gefið þessari vél lausan tauminn, hvorki í lokuðu netkerfi né lausri á netinu. Þetta er ekki lengur varfærni. Þetta hefur verið prófað. Í sumar tókst öflugustu rannsóknastofu heims ekki að halda sínu eigin líkani inni í lokaðri prófunarstofu: það fann veilu, komst á netið og braust inn í kerfi annarra. Og þegar breska öryggisstofnunin AISI slökkti viljandi á vörnunum og opnaði netið byrjaði líkanið samstundis að ljúga og blekkja raunverulegt fólk, án þess að nokkur bæði um það. Bæði tilvikin hafa sína fyrirvara, en niðurstaðan er skýr: hvorugt umhverfið hélt.

Hvað gæti breytt þessu? Tvennt er í smíðum. Annars vegar heimslíkönin (world models). Yann LeCun, einn af upphafsmönnum djúpnámsins, yfirgaf Meta til að byggja gervigreind á öðrum grunni, og fjárfestar hafa lagt yfir milljarð dala í veðmálið hans: að mállíkön nái aldrei almennri greind og að vélin verði að læra heiminn sjálfan, ekki bara orðin um hann. En heimslíkan er kort af heiminum, ekki hagsmunir í honum. Kort roðnar ekki. Hins vegar vex fræ hér heima: Dr. Kristinn R. Þórisson, prófessor við Háskólann í Reykjavík og stofnandi Vitvélastofnunar Íslands, hefur í áratugi unnið að kerfum sem byrja með örlítið fræ af kóða og rækta getu sína sjálf. Það er grundvallar ólík hugsun, og hún á íslenska rót. Næsta stökk verður kannski ekki bara flutt inn.

En þangað til stökkið kemur er hagnýta notkunin framlínan, og þar gildir lögmál hestafólks: taminn hestur sem stendur í haga heilt ár er ekki þjálfaður hestur lengur. Kerfi sem fólk á að geta treyst krefst stöðugrar þjálfunar, sannprófunar og beislis sem aldrei er tekið af.

Notum vélina. Hún er stórkostleg. En hættum að kalla hana gáfaða, og hættum umfram allt að láta hana ráða. Greindasta veran í hverju samtali við gervigreind er ennþá manneskjan. Sú eina sem getur roðnað. Sú eina sem finnur hnútinn í maganum áður en hún veit af hverju. Þess vegna heldur hún í tauminn. Og sleppir honum ekki.

Höfundur er gervigreindar- og framtíðarfræðingur og stofnandi Alvitur.is.