Dauð­brá og varð ösku­reið þegar hún sá sjálfa sig í gervi­greindar­mynd­bandi

Myndbandið sem um ræðir er falsað og segir Halla að henni hafi dauðbrugðið og orðið öskureið þegar hún varð myndbandsins vör.

Halla ræddi málið í Reykjavík síðdegis á Bylgjunni. Hún segir að þetta sé ekki í fyrsta sinn sem þetta komi fyrir, og tekur fram að fólk verði að hafa varan á.

„Ef fólk rekst á myndbönd af mér, eða öðrum þjóðþekktum einstaklingum að biðja þau um að fjárfesta í einhverju þá er eins gott að staldra við, því það mun ég aldrei gera,“ segir Halla.

Hvernig varð þér við þegar þú sást þetta?

„Mér dauðbrá og ég varð öskureið, svo ég segi bara alveg eins og er. Þetta er auðvitað mikil árás á einstakling þegar rödd manns og andlit er tekið svona. Þess vegna held ég að það þurfi að gera þetta glæpsamlegt.“

Örstutt hljóðbrot og ein mynd nóg

Hún tekur fram að gervigreind bjóði upp á spennandi framþróun á mörgum sviðum, fylgi henni líka skuggahliðar.

„Þetta er náttúrulega alveg skelfilegt. Eins og gervigreindin getur verið spennandi og hjálpað okkur að leysa alvöru verkefni eins og við að finna lausnir og lyf við krabbameini, þá eru áskoranirnar í kringum þessa byltingu afar stórar, og krefjast miklu meiri athygli, umræðu og aðgerða heldur en er að eiga sér stað í okkar samfélagi. Þetta er auðvitað bara ein birtingarmyndin af þessari byltingu sem er að eiga sér stað á ógnarhraða.“

Hér má sjá myndbandið sem um ræðir.

Hún bendir á hversu lítið geti þurft til þess að búa til djúpfalsað myndband.

„Örstutt raddbrot, nokkrar sekúndur, og ein mynd af einstaklingi dugar til að búa til fals- myndir, myndbönd, og fréttir sem ná því miður stundum að blekkja fólk. Auðvitað er þetta bæði að vega að trausti í samfélaginu og jafnvel að sjálfu lýðræðinu okkar. Þetta er mjög alvarleg þróun og við eigum að bregðast við af festu.“

Vill ekki bíða eftir Evrópusambandinu

Halla vill að íslensk stjórnvöld bregðist við vandanum. Hún segir ekki nóg að þau bíði eftir því hvað Evrópusambandið geri, heldur verði þau sjálf að taka af skarið. Hún nefnir sem dæmi fyrirhugaðrar breytingar á danskri löggjöf sem myndu gera notkun á líkindum og rödd fólks glæpsamlega.

„Svo ég tali nú bara hreint út, ég held að bæði hér heima og úti í heimi séu stjórnvöld víða ekki að átta sig á því hversu mikil áhrif þessi gervigreindarbylting mun hafa á allt frá svikum og fölsunum, og hvernig kosningar fara fram, á vinnumarkaðinn. Það er ákaflega brýnt að við eigum alvöru samtal um hvaða leið við ætlum að fara.“

Halla segist nú íhuga að gera þetta að umfjöllunarefni sínu í komandi þingsetningarávarpi forseta.

„Ég er kannski svolítil harðlínumanneskja þegar kemur að þessu. Það eru margir fletir á gervigreindarbyltingunni sem geta fært okkur gagn, en hún verður að þjóna mannkyninu en ekki öfugt. Það er svolítið eins og við séum orðin fórnarlömb þessarar byltingar nú þegar, hún sé að ræna okkur mörgu sem er mikilvægt fyrir heilbrigt samfélag. Ég vona einlæglega að þingið og ríkisstjórn taki þessi mál föstum tökum. Ég mun sannarlega hvetja til þess.“