Net­varnir í gervi­greindum heimi

Því hefur verið spáð í nokkur ár að það sé einungis tímaspursmál hvenær nútíma gervigreindarmódel nái því þroskastigi að geta framkvæmt heildstæðar netárásir og nýtt sér alla árásárkeðjuna svokölluðu sem netglæpamenn hafa haft að leiðarljósi í áratugi.

Uppfærð útgáfa á gervigreindartólinu Claude frá Anthropic, sem ber nafnið Mythos, hefur ratað í fréttir víða síðustu vikur þar sem tólið sýnir miklar framfarir í þekkingu á og þar með getu í að finna, veikleika í tölvukerfum. Það á eftir að koma betur í ljós hversu mikil framför kemur til með að fylgja þessum nýju uppfærslum, og þá hvernig samkeppnisaðilar Anthropic koma til með að bregðast við, en eitt er þó ljóst.

Spádómarnir um að gervigreind verði í lykilhlutverki þegar kemur að netárásum og veikleikagreiningu eru að rætast. Því fylgja kostir og gallar.

Hvað er að breytast?

• Tæknilegur þröskuldur til að skilja og framkvæma fágaðar netárásir kemur til með að lækka
• Ekki þarf lengur djúpa tölvuþekkingu og skilning á allri árásarkeðjunni til ná árangri með netárásum
• Reikna má með að veikleikar í forritum og kerfum muni uppgötvast í meira mæli og margfalt hraðar en áður
• Kostnaður við að framkvæma netárásir í stærri skala og á styttri tíma en áður þekktist kemur til með að lækka

Hver er ógnin?

• Gera þarf ráð fyrir að ógnaraðilar nýti sömu tækni til uppgötva veikleika og útbúa nothæfa árásaraðferð gagnvart þeim
• Árásir sem áður tóku vikur eða jafnvel mánuði í undirbúningi taki þá núna eingöngu mínútur eða klukkustundir
• Miklar líkur á að hæfir ógnarhópar nýti sér sjálfvirkni með notkun gervigreindar til skala stærri árásir og koma sér undir sjónsvið eftirlits- og viðbragðskerfa
• Hefðbundið viðbragð gagnvart nýjum veikleikum koma til með að brotna þar sem plástra þarf í öryggisholur mun hraðar en hefur þótt eðlilegt hingað til

Hvernig á að bregðast við þessu?

Ekki er þó ástæða til að örvænta yfir þessari þróun. Hún var viðbúin og það fylgja henni gífurleg tækifæri til að styrkja netvarnir upplýsingatæknikerfa. Þeir aðilar sem hafa innleitt öflugt stjórnkerfi standa á góðum grunni gagnvart þessum ógnum. Viðbragð kemur til með að breytast með tilliti til skala og hraða en aðferðarfræðin helst nokkurn vegin sú sama.

Rekstraraðilar þurfa að leggja áherslu á:

• Nýta gervigreind til að til að aðstoða við netvarnir. Finna veikleika og vöktun og viðbragð
• Minnka tíma milli uppgötvunar veikleika og plástrunar (e. patching)
• Að tryggja virkni innbrotavarna til að brúa bilið uns veikleikauppfærslur verða tilbúnar
• Fækka árásarflötum - Lágmarka snertifleti kerfa og búnaðar við opið internet
• Styrkja auðkenningaröryggi. Nota fjölþáttaauðkenningu er hefur meira þol gagnvart vefveiðum.
• Tryggja viðnámsþol í afritunartöku.
• Æfa viðbrögð miðað við nýjan veruleika

Reikna má með því að rekstraraðilar og netöryggissérfræðingar er innleiða ekki gervigreind inn í sitt daglega vinnulag úreldist hratt í getu og verði þannig frekar skotmark ógnaraðila.

Til lengri tíma litið megum við vera jákvæð gagnvart þessari þróun. Ef sjálfvirk tól geta hjálpað til með að finna og lagfæra veikleika í kerfum þá leiðir það til sterkara netöryggis.

Hvað með birgja?

Það er aðdáunarvert að Anthropic hafi veitt helstu birgjum í heiminum aðgang að uppfærðu tóli þeirra áður en þeir opna á það fyrir almenna notendur. Það gefur birgjunum tíma til að finna veikleika sem áður voru óþekktir og koma með plástra gegn þeim hraðar en áður. Vandamál sem margir birgjar standa frammi fyrir í dag er að þótt tiltölulega auðvelt geti reynst að plástra ákveðna veikleika þá fylgir útgáfa þessara plástra ströngu ferli til að tryggja að ekkert annað brotni við að setja þá upp. Birgjar og uppfærslustjórnkerfi koma til með að þurfa að aðlaga sig að þessum breyttu aðstæðum.

Advania er í öflugu samstarfi og samtali við lykilbirgja á þessum markaði og við bregðumst hratt við þeim áhrifum sem þessi tækni mun koma til með að hafa á okkar daglegu störf, bæði í rekstri og hugbúnaðarþróun. Við erum ávallt tilbúin í ráðgjöf varðandi þessi mál.

Höfundur er netöryggis- og gagnaþróunarstjóri Advania á Íslandi.