Lifir lýð­ræðið gervi­greindina af?

Systkini sitja saman við morgunverðarborðið og skrolla á sitthvoru tækinu á samfélagsmiðlum. Algrím samfélagsmiðlana mata þau með svo ólíkum upplýsingum um heiminn að þau gætu allt eins búið í sitthvoru stjörnukerfinu en ekki á sama heimili.

Þetta er raunveruleikinn sem við búum við í dag. Algjörlega ný staða sem manneskjur, samfélög og lýðræði hafa aldrei áður staðið frammi fyrir. Þessi nýi veruleiki er afleiðing frekar einfaldrar tegundar gervigreindar sem forgangsraðar og dreifir efni með það að markmiði að hámarka áhorf, lestur og skrun notenda. Að fanga athygli notenda eins og unnt er í þeim eina tilgangi að selja auglýsingar og hámarka gróða fyrirtækjanna sem eiga og þróa tæknina.

Við mannfólkið þróuðumst til að veita því athygli sem hefur mesta þýðingu fyrir okkur. Þegar við reynum að neyða okkur til að gera eitthvað sem við sjáum lítinn tilgang í er mjög erfitt að halda athygli. Þegar við erum að fást við verkefni sem hefur mikla þýðingu fyrir okkur og það fangar athygli okkar, þá dettum við í flæði. Í flæði fjarlægjumst við egóið og sjálfsvitundina og upplifum að vera fullkomlega í núinu. Við erum, frekar en gerum. Því meira flæði sem við upplifum því betur líður okkur.

Skjólstæðingar frekar en söluvara

Að viðhalda athygli okkar og beina að þeim verkefnum og markmiðum sem raunverulega skapa þýðingu og tilgang í lífi okkur verður sífellt erfiðara í heimi þar sem við erum umkringd truflunum. Við erum umkringd tækni sem er hönnuð með það að markmiði að stela athygli okkar með algrími sem hefur það að helsta markmiði að halda okkur límdum við skjá. Skilvirkasta leiðin til að ná því markmiði er að forgangsraða efni sem vekur upp hneykslistilfinningar, reiði eða spilar einhvern vegin á tilfinningar okkar. Því öfgafyllri tilfinningar sem efnið vekur upp því meiri athygli fær algrímið frá okkur. Því meiri athygli, því hærri tekjur fær fyrirtækið.

Þegar við erum í tilfinningalegu uppnámi þá fer minni athygli í gæði umræðunnar og hugsunin verður sundruð og yfirborðskenndari. Fyrirtækin græða en notendur tapa.

Þegar við upplifum í gegnum kommentakerfi að við erum umkringd reiðu fólki verðum við árvökul og athygli okkar færist í meira mæli að því að leita að hættum og óvinum frekar en að næra andann, félagsleg tengsl og samfélag í ró og flæði. Þetta grefur undan getu okkar til að koma saman sem samfélag til að bera kennsl á vanda og finna lausnir í sameiningu. Fyrirtækin græða en samfélagið allt tapar.

Gervigreindin gæti verið þróuð með það að markmiði að draga úr truflunum og efla getu okkar til að veita því athygli sem eykur tilgang, flæði og vellíðan í lífi okkar. Við gætum stuðlað að hönnun samfélagsmiðla sem raunverulega tengja og auðga líf fólks, miðlar þar sem notendur eru skjólstæðingar frekar en söluvara.

Falskur raunveruleiki sem fangelsar okkur

Nýjasta gervigreindin, sem við höfum kallað spunagreind en þekkjum flest sem ChatGPT greinir ekki einungis efni heldur skapar það sjálf út frá miklu magni af gögnum. Þó tækifærin séu mörg þá hlýtur þessi þróun að velta upp óteljandi spurningum um hversu truflandi og sundrandi þessi hæfileiki gervigreindarinnar getur orðið í núverandi hvataumhverfi.

Ímyndum okkur gervigreind sem veit allt um okkur, um öll okkar áhugamál, alla okkar fordóma, allt sem við hræðumst, og er forrituð til að nýta sér veikleika í okkar hugsun og atferli til þess að selja okkur vörur og þjónustu. Þetta er mögulegt upp að ákveðnu marki í dag en hvað ef gervigreindin getur einnig skapað efni sem styður við og styrkir söguna sem aðilar á bak við tæknina eru að selja okkur.

Við þurfum líka að taka inn í myndina falsfréttir, djúpfölsuð myndbönd, myndir og gervimennin sem geta tekið yfir athugasemdakerfi og hafa m.a. áhrif á niðurstöður kosninga. Í dag eiga margir erfitt með að treysta upplýsingum sem bornar eru fram í hinum ýmsu miðlum. Hvað gerist þegar að staðan er orðin þannig að fólk getur almennt bara alls ekki treyst neinum upplýsingum?

Hvernig mun nokkur manneskja vita hvort hægt sé að treysta nokkru um stöðu heimsins? Hvernig munum við vita hvort við séum að tala við raunverulega manneskju en ekki gervimenni? Hvernig snúum við okkur í heimi þar sem gervigreindin getur búið til efni sem stýrir athygli okkar og skapar svo falskan raunveruleika sem fangelsar okkur? Gervigreindin er nú þegar komin langt á leið einungis með því að nota algrím og pólitíska hlutdrægni fólks. Hvaða áhrif mun þetta hafa á lýðræðið?

Megin forsenda virks lýðræðis er að borgarar séu frjálsir, menntaðir og eigi í raunverulegu samtali með það að markmiði að komast að sífellt bættum skilningi á sameiginlegum gildum og hvert við viljum stefna sem samfélag. Hver er staða lýðræðis í heimi þar sem allar upplýsingar sem við sjáum eru sérsniðnar og við getum ekki treyst því sem við lesum eða vitað hvort manneskjan sem við erum að tala við sé alvöru manneskja eða bara eitthvað gervimenni hannað til að kynnast okkur og leiða okkur inn í hugmyndafræði sem þjónar málstað sem er okkur dulinn? Hvernig lifir lýðræðið af í þannig heimi?

Hvernig geta lýðræðiskerfi sem eru hægfara í eðli sínu unnið regluverk um tækni sem er í veldisvexti? Einmitt núna eru örfáir forstjórar ógnarstórra tæknifyrirtækja að ákvarða örlög mannkynsins á meðan að allskyns nefndir og starfshópar víðsvegar um heim ræða hvernig best sé að setja reglur um tækni sem verður búin að taka stökkbreytingum þegar hóparnir skila einhverju af sér.

Ef gervigreindin mótar okkur, hver mótar þá gervigreindina?

Ef gervigreindinni verður áfram stýrt út frá því viðskiptamódeli eftirlits kapítalismans sem hefur ríkt hingað til, þar sem upplýsingum um notendur er safnað og seldar til að nota gegn okkur mun gervigreindin halda áfram að ýta undir sundrung og skautun. Hún mun geta haft gífurleg áhrif á heimsmynd fólks og skoðanir og á í hættu á að stuðla að hruni þeirra lýðræðislegu kerfa sem við höfum þekkt til þessa.

Við höfum val á milli tveggja kröftugra afla, sundrungar eða flæðis. Sundrung gerir okkur minni, grynnri og reiðari á meðan að flæði breikkar okkur, dýpkar og róar. Sundrung sprettur úr hugmyndafræði auðsöfnunar, endalauss vaxtar og neyslu. Flæði verður til í framtíð sem leggur áherslu á tilgang, velsæld og jafnvægi. Sundrung smækkar okkur á meðan að flæði stækkar okkur. Þetta er valið.

Hvernig tæknin mun þróast veltur alfarið á því hverjir hvatarnir verða fyrir fyrirtækin sem þróa hana. Ef samfélagsmiðaðir hvatar verða settir ofar gróðahvötum, býður tæknin upp á gríðarlega möguleika fyrir framþróun og velsæld mannkyns. Bent hefur verið á að gervigreindin geti til dæmis aðstoðað við sjúkdómsgreiningar, við leit og björgun eftir náttúruhamfarir, við að sníða kennslu að þörfum hvers og eins, við að stuðla að sjálfbæru samfélagi með því að gera orkukerfin áfallaþolnari, við stjórnun vökva- og úrgangskerfa í landbúnaði eða við umferðastjórn. Möguleikarnir eru óteljandi og gervigreindin gæti í raun og veru verið lykilinn að betra samfélagi fyrir okkur öll. Samfélagi þar sem við hefðum meiri tíma með fjölskyldu og ástvinum, meiri tíma til að sinna ástríðu, upplifa tilgang, mynda verðmæt tengsl og hlúa að samfélaginu og lýðræðinu.

Framtíðarnefnd Alþingis stendur núna fyrir málstofum um gervigreind og lýðræði og stendur til að tala við helstu sérfræðinga um áhrif gervigreindar á vinnumarkaðinn, menntakerfið, stjórnmálin, persónuvernd, höfundarrétt og fleira. Næsta málstofa verður þann 16. febrúar kl.10:30 og mun fjalla um alþjóðlega stöðu stefnumótunar um gervigreind. Málstofunum er streymt beint á Alþingisrásinni og vef þingsins þannig að áhorfendur geta tekið þátt og sent inn fyrirspurnir. Ég hvet alla sem hafa áhuga á þróun gervigreindar og framtíð lýðræðisins að fylgjast með og taka þátt í málstofum framtíðarnefndar.

Höfundur er þingmaður Pírata og formaður framtíðarnefndar Alþingis.