„Kiss the Ring“ – þegar ríkis­valdið krefst hlýðni af gervigreindinni

Þessi grein er skrifuð í síbreytilegu umhverfi þar sem atburðarásin er hröð og nýjar upplýsingar um þróun mála berast á klukkustundar fresti. Staðan getur því hafa breyst frá því þetta var skrifað.

Í liðinni viku gerði bandaríska varnarmálaráðuneytið, sem varnarmálaráðherrann Pete Hegseth hefur endurnefnt „Department of War“ eða stríðsmálaráðuneytið, nokkuð fordæmalaust.Það setti bandarískt tæknifyrirtæki á „svartan lista“ sem ógn við þjóðaröryggi landsins, nánar tiltekið sem ógn við aðfangakeðju hersins. Aldrei í sögunni hefur þessari heimild verið beitt gegn bandarísku fyrirtæki. Til að setja það í samhengi er þetta sama brennimerki og kínverska tæknifyrirtækið Huawei fékk á sínum tíma þegar búnaður þess var bannaður í bandarískum fjarskiptanetum.

Bandaríska fyrirtækið sem nú um ræðir er Anthropic, eitt verðmætasta tæknifyrirtæki heims sem rekur gervigreindarlíkanið Claude. Ástæðan? Fyrirtækið neitaði að skrifa undir nýjan viðskiptasamning sem veita myndi hernum óheftan aðgang að líkönum þess. Þess má geta að Claude varð fyrsta gervigreindarlíkanið sem tekið var í notkun í trúnaðarkerfum bandaríska hersins sumarið 2024.

Örfáum klukkustundum eftir brennimerkingu Anthropic undirritaði annar risi á sviðinu, OpenAI, sambærilegan samning við herinn. Samkvæmt OpenAI eru sömu ófrávíkjanlegu mörkin í gildi, þ.e. bann við fjöldaeftirliti og sjálfvirkum vopnum, og fyrirtækið heldur því fram að samningurinn feli í sér strangari öryggisramma en Pentagon hefur áður sætt sig við. Engu að síður er öðru fyrirtækinu úthýst eins og erlendum óvini á meðan hinu er verðlaunað. Þetta snýst ekki bara um tæknina. Þetta snýst um hvort þú beygir þig fyrir valdinu.

Anthropic var stofnað árið 2021 af hópi fyrrverandi starfsmanna OpenAI undir forystu systkinanna Dario og Danielu Amodei. Þau sögðu skilið við OpenAI vegna ágreinings um öryggismál og stofnuðu Anthropic sem mótvægi við „move fast and break things“-nálgun fyrirtækisins. Í dag er Anthropic metið á 380 milljarða Bandaríkjadala. Vöxtur fyrirtækisins hefur verið lygilegur en áætlaðar árstekjur (e. run-rate) fóru úr einum milljarði dala seint á árinu 2024 í 14 milljarða nú í febrúar 2026. Þar að auki eru átta af tíu stærstu fyrirtækjum Bandaríkjanna í viðskiptavinahópi þeirra.

Hvað gerðist?

Í júlí 2024 var Claude fyrsta gervigreindarlíkanið sem fékk aðgang að lokuðum öryggiskerfum bandaríska hersins, þá með ákvæði gegn fjöldaeftirliti og notkun líkana í sjálfvirkum vopnakerfum. Ári síðar gerði herinn sambærilega samninga við fjögur tæknifyrirtæki til viðbótar.

Svo kom aðdragandinn sem kveikti á átökunum. Í kjölfar hernaðaraðgerða Bandaríkjanna í Venesúela í byrjun janúar var staðfest að Claude, tækni Anthropic, hefði verið notuð í þeim tilgangi að fanga Maduro. Þegar Anthropic lagði fram fyrirspurn til varnarmálaráðuneytisins um notkunina var henni ekki tekið fagnandi heldur var hún beinlínis túlkuð sem tilraun Anthropic til að hafa eftirlit með viðkvæmum hernaðaraðgerðum ríkisins. Anthropic fór fram á skýr skrifleg mörk (ekkert fjöldaeftirlit og engin fullsjálfvirk vopn án mannlegrar aðkomu). Varnarmálaráðuneytið kaus hins vegar orðalagið „all lawful purposes / any lawful use“ (hvers kyns lögleg notkun).

Þann 24. febrúar gaf hinn áðurnefndi varnarmálaráðherra Hegseth Anthropic úrslitakosti: Að veita hernum ótakmarkaðan aðgang að líkönum fyrir föstudaginn 27. febrúar, að öðrum kosti myndi herinn virkja lög um framleiðslu á stríðstímum (Defense Production Act). Áður en fresturinn rann út tilkynnti Amodei opinberlega að fyrirtækið gæti ekki orðið við þessum afarkostum. Viðbrögðin létu ekki á sér standa og daginn eftir lýsti Trump forseti því yfir að allar alríkisstofnanir skyldu hætta notkun Anthropic. Hegseth skilgreindi fyrirtækið sem öryggisógn við aðfangakeðju þjóðaröryggis og sama kvöld tilkynnti OpenAI um sinn tímamótasamning.

Hvaða þýðingu hefur það fyrir fyrirtæki að vera skilgreint sem aðfangakeðjuógn við þjóðaröryggi?

Samkvæmt bandarískum lögum hefur varnarmálaráðuneytið með þessum aðgerðum heimild til að banna vörur fyrirtækisins alfarið í öllum hernaðarsamningum. Engir verktakar, birgjar eða samstarfsaðilar hersins mega nota tæknina í neinum varnarmálaverkefnum. Þessari heimild hefur hingað til eingöngu verið beitt gegn erlendum fyrirtækjum sem grunuð hafa verið um njósnir eða tengsl við fjandsamleg ríki.

Hegseth hefur gefið í skyn að bannið nái í raun enn lengra; að ekkert fyrirtæki sem vinnur fyrir herinn megi yfirhöfuð eiga nein viðskipti við Anthropic. Þessi víðtæka túlkun er mjög umdeild og margir lögfræðingar telja ráðherrann einfaldlega ekki hafa lagaheimild til að skipta sér af viðskiptum utan hernaðarsamninga. Anthropic hefur vísað ágreiningnum til úrlausnar dómstóla.

Beint tekjutap Anthropic af því að missa samninginn er tiltölulega lítið, eða tæplega 1,5% af heildartekjum fyrirtækisins (200 milljónir dala af 14 milljörðum). Raunverulega áhættan felst hins vegar í óbeinum áhrifum sem gætu fælt burt aðra varnarmálaverktaka og ógnað frekari ríkisviðskiptum. Þessi óvissa gæti jafnframt dregið úr trausti fjárfesta og komið niður á virði fyrirtækisins til lengri tíma litið.

Fordæmið er skýrt: Hvaða bandaríska fyrirtæki sem er gæti átt yfir höfði sér sömu meðferð ef það hlýðir ekki ofríkinu möglunarlaust.

Um hvað snýst þetta raunverulega?

Sjónarmið hersins er ekki fáránlegt í sjálfu sér. Kjörnir fulltrúar og yfirmenn hersins eiga að ráða því hvernig hertækni er beitt, ekki einkafyrirtæki. En ef þetta snerist raunverulega um lýðræðislegt eftirlit ætti bandaríska þingið að setja reglurnar, ekki einn stakur ráðherra. Vefritið Lawfare hefur bent á að það sé hlutverk þingsins að kveða á um hvernig herinn megi nota gervigreind. Það hefur ekki gerst. Þess í stað nýtir einn embættismaður innkaupavald ríkisins til að þvinga fram stefnu sem hefur aldrei verið rædd á lýðræðislegum vettvangi.

Munurinn á framgöngu fyrirtækjanna er bæði tæknilegur og lagalegur. OpenAI samþykkti kröfu hersins um „öll lögleg not“ (e. all lawful purposes) en setti inn ákvæði sem festa núverandi löggjöf og stefnu hersins í sessi. Þannig gilda gömlu reglurnar áfram um tækni OpenAI ef stjórnvöld rýmka lög um fjöldaeftirlit eða drónahernað í framtíðinni. Þar að auki krefst OpenAI þess að líkön þeirra eru eingöngu keyrð miðlægt í skýinu en ekki á staðbundnum tækjum úti á vígvellinum, sem gerir það nánast ómögulegt að nota tæknina beint í sjálfvirkum vopnakerfum. Fyrirtækið styðst einnig við eigin öryggisramma og hefur sína eigin sérfræðinga innan hersins til að fylgjast með notkun.

Anthropic treysti sér ekki í þennan leik. Fyrirtækið mat það sem svo að lagaramminn væri of úreltur til að halda aftur af gervigreind sem getur greint og tengt saman milljónir gagna á sekúndubroti. Það vildi halda sínu eigin neitunarvaldi fremur en að treysta á lögfræðilegar tryggingar.

Herinn valdi refsingu. Háttsettur embættismaður varnarmálaráðuneytisins sagði við Axios, bandaríska fréttaveitu, að ágreiningurinn yrði gríðarlegt flækjustig og að ráðuneytið ætlaði að tryggja að Anthropic myndi borga fyrir það. Þegar viðbrögð ríkisins við neitun Anthropic eru skoðuð er ljóst að þau eiga ekki rætur í stefnumálum. Hér er enn á ný verið að senda skýr skilaboð um að þeim sem ekki gera eins og þeim er sagt sé refsað. Þetta er sama mynstur og sést hefur í samskiptum Trump-stjórnarinnar við háskóla, fjölmiðla og lögfræðistofur: Krafist er opinberrar hlýðni, þeir sem finna leið til að segja já fá verðlaun, en þeir sem þrjóskast við fá að finna fyrir því.

OpenAI reynir nú að setja sig í hlutverk friðarstillis. Í yfirlýsingu sem OpenAI gáfu út krafðist fyrirtækið þess að herinn byði öllum fyrirtækjum sömu skilmála og lýsti fyrirtækið sig mótfallið því að Anthropic væri stimplað sem öryggisógn. Sú diplómatía breytir þó ekki þeirri staðreynd að Sam Altman undirritaði samninginn sama dag og ríkið var búið að refsa hans helsta keppinaut. Greg Brockman, meðstofnandi OpenAI, hafði áður gefið 25 milljónir dollara í kosningasjóð Trumps árið 2025.

Stærri myndin

Afstaða Anthropic byggir á tvennu. Annars vegar er um að ræða siðferðislega afstöðu gegn fjöldaeftirliti og sjálfvirkum vopnakerfum. Hins vegar er það sú verkfræðilega staðreynd sem Dario Amodei hefur bent á að núverandi gervigreindarlíkön eru einfaldlega ekki nógu áreiðanleg til að taka sjálfstæðar ákvarðanir um líf og dauða. Þau gera of margar villur.

Jack Shanahan, fyrrverandi þriggja stjörnu hershöfðingi í bandaríska flughernum og einn af arkitektum Project Maven hjá Google, tekur undir þetta. Ekkert núverandi gervigreindarlíkan á heima í sjálfvirku banvænu vopnakerfi og telur hann herinn vera að skjóta sig í fótinn með því að útiloka Anthropic frá aðfangakeðjum hersins.

Málið teygir sig þó lengra en átökin við Pentagon. Ríki hafa í gegnum tíðina tekið hernaðarlega mikilvæga innviði eignarnámi: járnbrautir, orkuver og kjarnorkuver. Gervigreindarlíkön stjórna nú innviðum sem ríkið er háð til að geta tekið ákvarðanir. Þetta er staða sem enginn einkaaðili hefur áður ráðið yfir á þennan mælikvarða. Mustafa Suleyman, forstjóri Microsoft AI og höfundur bókarinnar The Coming Wave, hefur varað við nákvæmlega þessari þróun: Að einkaaðilar fari með vald sem áður var í höndum ríkisvaldsins, sem leiði til hægfara rýrnunar á fullveldi þjóðríkja.

Á efnahagsráðstefnunni í Davos í lok janúar bauð Dario Amodei raunar upp á lausn: Að stöðva útflutning á örflögum til Kína svo kapphlaupið verði að viðráðanlegri samhæfingu milli vestrænna rannsóknaraðila. Hver var hins vegar raunveruleg afstaða bandarískra stjórnvalda? Að leyfa NVIDIA að selja örflögur beint til Kína en setja Anthropic á svartan lista sem þjóðaröryggisógn.

Þessi togstreita er nánast eingöngu vestræn. Kína samþætti gervigreind við hernaðarlíkön sín árið 2019 og kínverskur gervigreindarframleiðandi sem neitar hernum er óhugsandi fyrirbæri. Opnun lýðræðislegra tæknikerfa, þar sem fyrirtæki geta enn sagt nei, er bæði styrkleiki og veikleiki.

Og hvað með okkur?

Reglurnar um gervigreind í hernaði og eftirliti eru að verða til akkúrat núna, í átökum milli bandarískra tæknirisa og framkvæmdavaldsins. Evrópa, Norðurlöndin og Ísland eiga ekkert sæti við borðið en við erum engu að síður háð þessum innviðum. Fyrirtæki og stofnanir um alla Evrópu nota líkön á borð við Claude og ChatGPT á degi hverjum. Tækninni sem við treystum á er stýrt af valda(ó)jafnvægi sem við höfum ekkert um að segja.

Svo er það spurningin sem gleymist oft að spyrja. Öll þau ófrávíkjanlegu mörk sem bæði OpenAI og Anthropic setja snúa að því að vernda bandaríska borgara gegn fjöldaeftirliti. Fjórði viðauki stjórnarskrárinnar, undanþágurnar í hersamningunum, öryggisákvæðin; allt gildir þetta einungis um Bandaríkjamenn. Engin sambærileg mörk eru til fyrir aðra. Eru þessi fyrirtæki og bandaríski herinn sátt við gervigreindareftirlit með Evrópubúum? Með Íslendingum?

Við þurfum raunar ekki lengur að velta því fyrir okkur því Sam Altman svaraði spurningunni sjálfur um helgina. Í færslu á X (áður Twitter) sagðist hann hafa „sætt sig við að bandaríski herinn muni beita útlendinga einhvers konar eftirliti“. Hann kvaðst vissulega ekki hrifinn af tilhugsuninni en bætti við að hann virti lýðræðislegt ferli. „Ég tel ekki að það sé mitt að ákveða þetta,“ skrifaði forstjórinn og þvoði þar með hendur sínar af málinu.

Vandamálið er hins vegar að þetta „lýðræðislega ferli“ sem Altman treystir á er bandarískt. Við höfum engan kosningarétt í því ferli.

Fyrst reglurnar eru allar skrifaðar í Washington og æðstu stjórnendur gervigreindarlíkana hafa þegar ákveðið að líta undan er spurningin hvort við ætlum að gera slíkt hið sama.

Höfundur leiðir þátttöku Íslands í samnorrænni gervigreindarmiðstöð, New Nordics AI fyrir hönd Almannaróms.