Spyrjum við á­fram nýrra spurninga?

Gervigreind getur aðstoðað okkur við margvísleg verkefni og í auknum mæli hugsað og tekið ákvarðanir fyrir okkur. En um leið og við fögnum þessari óvæntu aðstoð þurfum við líka að velta því fyrir okkur hvað hún getur vanið okkur af að gera sjálf og hverjar afleiðingarnar af því geta orðið. Því þegar við notum gervigreind til að lesa, skrifa, greina og móta spurningar fyrir okkur getur hæfni okkar sjálfra til þess tekið að veikjast

Ef áherslan á hraða og hagkvæmni veldur því að samfélagið einblíni á að hagnýta þá gervigreind sem þegar er til í stað þess að fjárfesta í nýrri grunnþekkingu gæti tæknin sem á að hraða framþróuninni á endanum orðið til þess að hægja á henni.

Þekking er vald

Í vísindaskáldsögunni The Three-Body Problem(2008)stendur mannkynið frammi fyrir ógn. Framandi siðmenning stefnir til jarðar, en ferðin tekur aldir. Það ætti að gefa mannkyninu tíma til að bregðast við, byggja upp varnir og þróa nýja tækni. Vandinn er að innrásarliðið veit þetta líka.

Geimverurnar óttast ekki mannkynið eins og það er, en þær óttast okkur eins og við gætum orðið. Ef vísindin fái að þróast óhindrað í nokkrar aldir gæti mannkynið komist fram úr þeim sjálfum. Þess vegna senda þær til jarðar „sophona“ ofurtölvur byggðar inn í prótónur sem hafa það hlutverk að stöðva framgang eðlisfræðinnar auk þess að fylgjast með öllum okkar athöfnum og samskiptum. Þeir trufla tilraunir, grafa undan trausti á niðurstöðum og gera þannig grunnrannsóknir ómögulegar. Mannkynið heldur áfram að starfa, framleiða og skipuleggja sig, en raunveruleg framþróun náttúruvísindanna stöðvast.

Án grunnrannsókna væri tölvutæknin ekki til

Ólíkt hagnýtum rannsóknum og tilraunaþróun miða grunnrannsóknir ekki að þróun nýrrar markaðshæfrar vöru eða þjónustu heldur að því að bæta skilning okkar á heiminum. Samt eru þær mikilvægur drifkraftur tæknilegrar framþróunar. Saga tölvutækninnar minnir okkur á hvernig tæknibyltingar grundvallast gjarna á hreinum fræðilegum rannsóknum. Rökaðgerðaalgebra (boolean), stærðfræðileg rökfræði og rannsóknir á útreiknanleika höfðu ekki þann tilgang að búa til tölvur heldur að auka skilning á fræðilegum viðfangsefnum. Samt grundvölluðu þær tölvutæknina. Ef samfélagið hefði aðeins fjármagnað það sem skilar skammtímaafrakstri hefðu margar af forsendum tölvubyltingarinnar líklega aldrei orðið til.

Fleira er til en stór mállíkön

Vegna þess hve mállíkönin eru öflug getur sú tilfinning auðveldlega skapast að framfarir felist fyrst og fremst í því að stækka líkönin, bæta gögnin, auka reiknigetu, fínstilla og samþætta tæknina betur inn í störf, stofnanir og markaði. Rannsóknir snúast þá í vaxandi mæli um að bæta núverandi tækni og fást við vankanta hennar, fremur en fræðilegar rannsóknir sem gætu grundvallað næstu kynslóð gervigreindar. Um þetta fjallar Kristinn R. Þórisson prófessor við Háskólann í Reykjavík í nýlegri ritgerð sinni, Better Machine Intelligence - A Vision for Nordic AI Leadership.

Kristinn leggur áherslu á grunnrannsóknir sem þegar eru í gangi á annars konar gervigreind; gagnsærri kerfum, smágagnadrifnum kerfum, kerfum sem geta hugsað röklega, lært af reynslu og útskýrt eigin niðurstöður með prófanlegum hætti. Slík nálgun gæti að hans mati hentað litlum samfélögum betur en kapphlaup um sífellt stærri gagnasöfn og gagnaver. Kristinn hvetur til þess að Norðurlöndin og Eystrasaltsríkin fari í slíka vegferð og setji fjármagnið fremur í grunnrannsóknir en tilraunaþróun á grundvelli tækni sem þegar er til.

Í The Three-Body Problem er grunnrannsóknum haldið niðri með utanaðkomandi íhlutun. Í okkar heimi gætum við staðnað vegna áherslu á þægindi og skammtímahagræðingu. Því markaðshagkerfið verðlaunar það sem er strax nothæft, söluhæft og mælanlegt, en síður það sem er óljóst og erfitt, en mögulega byltingarkennt.

Hættir þekkingargrunnurinn að vaxa?

Andvaraleysi gagnvart grunnrannsóknum er þó ekki það eina sem gæti valdið stöðnun. Þegar við notum gervigreind í vaxandi mæli til að framkvæma erfiðustu hluta hugsunarinnar fyrir okkur; móta rannsóknarspurningar, vinna röklegar greiningar, kafa í texta og orða niðurstöður getur færni okkar til að gera þetta sjálf veikst. Nýleg rannsókn sem gerð var við MIT háskólann á notkun ChatGPT við ritgerðarskrif og sýndi hvernig notkunin dró úr huglægri getu veitir enga endanlega sönnun heldur vísbendingu sem fellur að því sem við vitum um heilann; hann mótast við notkun. Hæfni sem er þjálfuð stöðugt styrkist en hæfni sem er sjaldan notuð getur veikst. Þannig gæti hæfni okkar til að skapa nýja þekkingu dvínað, þekkingargrunnurinn hætt að vaxa. Því gervigreindin endurspeglar aðeins það sem þegar er vitað, hún myndar enga nýja grunnþekkingu. Við gætum vissulega framleitt margfalt meira efni, en það kynni í sívaxandi mæli að verða einber endurspeglun þess sem áður hefur verið hugsað og skrifað.

Verðum við áfram við stjórnvölinn?

Ef við slökum á grunnrannsóknum en reiðum okkur þess í stað á tækni sem þegar er til - vissulega öflug, en um leið ófullkomin - gætum við hægt á framþróun í vísindum. Ef við föllum í þá gryfju að útvista eigin hugsun til gervigreindar getur þekkingargrunnurinn sem grundvallar getu hennar hætt að vaxa. Hvort tveggja getur leitt af sér stöðnun sem erfitt gæti orðið að brjótast út úr.

Hinn kosturinn er að nota gervigreind, en vera ávallt sjálf við stjórnvölinn. Nota hana til að aðstoða við grunnrannsóknir sem gætu grundvallað nýja og betri gervigreind, hraða þeim og bæta. Og nota hana sem mótaðila til að gagnrýna okkar eigin röksemdafærslur, forsendur og niðurstöður og hjálpa okkur þannig að hugsa skýrar.

Þannig er gervigreind í senn tæki getur nýst til að efla hæfni okkar og tæki sem gæti veikt hana. Hún getur nýst til að efla framþróun, en hún getur líka orðið til þess að hægja á henni.Álitaefnið er því ekki hvort gervigreind geti svarað spurningum okkar heldur hvort við höldum áfram að spyrja nýrra spurninga; spurninga sem hvorki við né hún þekkjum svörin við.

Höfundur er hagfræðingur og sérfræðingur í hagnýtingu gervigreindar.