Dauðbrá og varð öskureið þegar hún sá sjálfa sig í gervigreindarmyndbandi Jón Þór Stefánsson skrifar 21. ágúst 2025 19:00 Halla Tómasdóttir vill að stjórnvöld taki af skarið og grípi strax til aðgerða varðandi gervigreindina. Vísir/Vilhelm Halla Tómasdóttir forseti Íslands birtist í djúpfölsuðu gervigreindarmyndbandi sem Facebook-notendur geta nú séð sem auglýsingu á samfélagsmiðlinum. Þar heyrist Halla mæla með óljósum fjárfestingarkostum og segist ábyrgjast verðmæti fólks í þeim. Myndbandið sem um ræðir er falsað og segir Halla að henni hafi dauðbrugðið og orðið öskureið þegar hún varð myndbandsins vör. Halla ræddi málið í Reykjavík síðdegis á Bylgjunni. Hún segir að þetta sé ekki í fyrsta sinn sem þetta komi fyrir, og tekur fram að fólk verði að hafa varan á. „Ef fólk rekst á myndbönd af mér, eða öðrum þjóðþekktum einstaklingum að biðja þau um að fjárfesta í einhverju þá er eins gott að staldra við, því það mun ég aldrei gera,“ segir Halla. Hvernig varð þér við þegar þú sást þetta? „Mér dauðbrá og ég varð öskureið, svo ég segi bara alveg eins og er. Þetta er auðvitað mikil árás á einstakling þegar rödd manns og andlit er tekið svona. Þess vegna held ég að það þurfi að gera þetta glæpsamlegt.“ Örstutt hljóðbrot og ein mynd nóg Hún tekur fram að gervigreind bjóði upp á spennandi framþróun á mörgum sviðum, fylgi henni líka skuggahliðar. „Þetta er náttúrulega alveg skelfilegt. Eins og gervigreindin getur verið spennandi og hjálpað okkur að leysa alvöru verkefni eins og við að finna lausnir og lyf við krabbameini, þá eru áskoranirnar í kringum þessa byltingu afar stórar, og krefjast miklu meiri athygli, umræðu og aðgerða heldur en er að eiga sér stað í okkar samfélagi. Þetta er auðvitað bara ein birtingarmyndin af þessari byltingu sem er að eiga sér stað á ógnarhraða.“ Hér má sjá myndbandið sem um ræðir. Hún bendir á hversu lítið geti þurft til þess að búa til djúpfalsað myndband. „Örstutt raddbrot, nokkrar sekúndur, og ein mynd af einstaklingi dugar til að búa til fals- myndir, myndbönd, og fréttir sem ná því miður stundum að blekkja fólk. Auðvitað er þetta bæði að vega að trausti í samfélaginu og jafnvel að sjálfu lýðræðinu okkar. Þetta er mjög alvarleg þróun og við eigum að bregðast við af festu.“ Vill ekki bíða eftir Evrópusambandinu Halla vill að íslensk stjórnvöld bregðist við vandanum. Hún segir ekki nóg að þau bíði eftir því hvað Evrópusambandið geri, heldur verði þau sjálf að taka af skarið. Hún nefnir sem dæmi fyrirhugaðrar breytingar á danskri löggjöf sem myndu gera notkun á líkindum og rödd fólks glæpsamlega. „Svo ég tali nú bara hreint út, ég held að bæði hér heima og úti í heimi séu stjórnvöld víða ekki að átta sig á því hversu mikil áhrif þessi gervigreindarbylting mun hafa á allt frá svikum og fölsunum, og hvernig kosningar fara fram, á vinnumarkaðinn. Það er ákaflega brýnt að við eigum alvöru samtal um hvaða leið við ætlum að fara.“ Halla segist nú íhuga að gera þetta að umfjöllunarefni sínu í komandi þingsetningarávarpi forseta. „Ég er kannski svolítil harðlínumanneskja þegar kemur að þessu. Það eru margir fletir á gervigreindarbyltingunni sem geta fært okkur gagn, en hún verður að þjóna mannkyninu en ekki öfugt. Það er svolítið eins og við séum orðin fórnarlömb þessarar byltingar nú þegar, hún sé að ræna okkur mörgu sem er mikilvægt fyrir heilbrigt samfélag. Ég vona einlæglega að þingið og ríkisstjórn taki þessi mál föstum tökum. Ég mun sannarlega hvetja til þess.“ Gervigreind Tækni Forseti Íslands Mest lesið Leggur viðskiptaþvinganir á rússneska olíurisa Erlent Kröfur kvennaárs komnar í innheimtu og gjalddaginn fallinn Innlent Segir tilvalin íbúðasvæði opnast með Sundabraut Innlent Niðurrif hafið á gamla Morgunblaðshúsinu Innlent Næstum öllum sagt upp hjá dótturfélagi Play Innlent Hafa drepið 34 í árásum á meinta smyglara Erlent „Ég skoðanakúgaði sjálfa mig í þágu friðar og þæginda félagslega“ Innlent Klukkustunda bið eftir dekkjaskiptum í vetrarparadísinni Veður Klórar sér í kollinum yfir kvennaverkfallinu Innlent Skora á ráðherra og segir skjaldborg slegið um vændiskaupendur Innlent Fleiri fréttir Kröfur kvennaárs komnar í innheimtu og gjalddaginn fallinn Segir tilvalin íbúðasvæði opnast með Sundabraut Niðurrif hafið á gamla Morgunblaðshúsinu Næstum öllum sagt upp hjá dótturfélagi Play „Ég skoðanakúgaði sjálfa mig í þágu friðar og þæginda félagslega“ Burðardýr fengu þungan dóm fyrir kókaínsmygl Skora á ráðherra og segir skjaldborg slegið um vændiskaupendur Fresta fundi til tíu í fyrramálið Stórskemmtilegur innhringjandi og óhefðbundin útför Viðgerð muni taka einhverja mánuði „Afar ólíklegt“ að Nadine taki slaginn í borginni fyrir Miðflokkinn Grunuð um íkveikju í Nettó, Nytjamarkaðnum og eigin húsi Segir borgina refsa foreldrum til að mæta rekstrarvanda Aflýsa verkfalli öðru sinni Umferðarslys á Fagradal og veginum lokað Segir sorglega illa hafa verið haldið á hagsmunum flugsins Umferðarteppa í Ártúnsbrekku vegna aftanákeyrslu Bein útsending: Verndum vatnið Víða vetrarfærð, Fjarðarheiði lokuð og björgunarsveitir aðstoða fólk í föstum bílum Kettlingur í hættu vegna sprautunála og haldið í gíslingu af nágranna Kona í fjölbýlishúsinu talin brennuvargur en gengur laus „Vonbrigði hvað kom lítið út úr fundinum í gær“ Fangavörður rekinn fyrir að stela af fanga Óvissa á Grundartanga og flugumferðarstjórar funda Hafsteinn Dan tekur við formennsku í refsiréttarnefnd Klórar sér í kollinum yfir kvennaverkfallinu Hálfsdagslokun leikskóla skyndilega orðin að heilsdagslokun „Alvarlegt áfall á Grundartanga” sem beri að bregðast við hratt Ný samnorræn og baltnesk gervigreindarmiðstöð opnuð í dag „Það getur einhver verið að tæla barnið þitt fyrir framan þig“ Sjá meira
Myndbandið sem um ræðir er falsað og segir Halla að henni hafi dauðbrugðið og orðið öskureið þegar hún varð myndbandsins vör. Halla ræddi málið í Reykjavík síðdegis á Bylgjunni. Hún segir að þetta sé ekki í fyrsta sinn sem þetta komi fyrir, og tekur fram að fólk verði að hafa varan á. „Ef fólk rekst á myndbönd af mér, eða öðrum þjóðþekktum einstaklingum að biðja þau um að fjárfesta í einhverju þá er eins gott að staldra við, því það mun ég aldrei gera,“ segir Halla. Hvernig varð þér við þegar þú sást þetta? „Mér dauðbrá og ég varð öskureið, svo ég segi bara alveg eins og er. Þetta er auðvitað mikil árás á einstakling þegar rödd manns og andlit er tekið svona. Þess vegna held ég að það þurfi að gera þetta glæpsamlegt.“ Örstutt hljóðbrot og ein mynd nóg Hún tekur fram að gervigreind bjóði upp á spennandi framþróun á mörgum sviðum, fylgi henni líka skuggahliðar. „Þetta er náttúrulega alveg skelfilegt. Eins og gervigreindin getur verið spennandi og hjálpað okkur að leysa alvöru verkefni eins og við að finna lausnir og lyf við krabbameini, þá eru áskoranirnar í kringum þessa byltingu afar stórar, og krefjast miklu meiri athygli, umræðu og aðgerða heldur en er að eiga sér stað í okkar samfélagi. Þetta er auðvitað bara ein birtingarmyndin af þessari byltingu sem er að eiga sér stað á ógnarhraða.“ Hér má sjá myndbandið sem um ræðir. Hún bendir á hversu lítið geti þurft til þess að búa til djúpfalsað myndband. „Örstutt raddbrot, nokkrar sekúndur, og ein mynd af einstaklingi dugar til að búa til fals- myndir, myndbönd, og fréttir sem ná því miður stundum að blekkja fólk. Auðvitað er þetta bæði að vega að trausti í samfélaginu og jafnvel að sjálfu lýðræðinu okkar. Þetta er mjög alvarleg þróun og við eigum að bregðast við af festu.“ Vill ekki bíða eftir Evrópusambandinu Halla vill að íslensk stjórnvöld bregðist við vandanum. Hún segir ekki nóg að þau bíði eftir því hvað Evrópusambandið geri, heldur verði þau sjálf að taka af skarið. Hún nefnir sem dæmi fyrirhugaðrar breytingar á danskri löggjöf sem myndu gera notkun á líkindum og rödd fólks glæpsamlega. „Svo ég tali nú bara hreint út, ég held að bæði hér heima og úti í heimi séu stjórnvöld víða ekki að átta sig á því hversu mikil áhrif þessi gervigreindarbylting mun hafa á allt frá svikum og fölsunum, og hvernig kosningar fara fram, á vinnumarkaðinn. Það er ákaflega brýnt að við eigum alvöru samtal um hvaða leið við ætlum að fara.“ Halla segist nú íhuga að gera þetta að umfjöllunarefni sínu í komandi þingsetningarávarpi forseta. „Ég er kannski svolítil harðlínumanneskja þegar kemur að þessu. Það eru margir fletir á gervigreindarbyltingunni sem geta fært okkur gagn, en hún verður að þjóna mannkyninu en ekki öfugt. Það er svolítið eins og við séum orðin fórnarlömb þessarar byltingar nú þegar, hún sé að ræna okkur mörgu sem er mikilvægt fyrir heilbrigt samfélag. Ég vona einlæglega að þingið og ríkisstjórn taki þessi mál föstum tökum. Ég mun sannarlega hvetja til þess.“
Gervigreind Tækni Forseti Íslands Mest lesið Leggur viðskiptaþvinganir á rússneska olíurisa Erlent Kröfur kvennaárs komnar í innheimtu og gjalddaginn fallinn Innlent Segir tilvalin íbúðasvæði opnast með Sundabraut Innlent Niðurrif hafið á gamla Morgunblaðshúsinu Innlent Næstum öllum sagt upp hjá dótturfélagi Play Innlent Hafa drepið 34 í árásum á meinta smyglara Erlent „Ég skoðanakúgaði sjálfa mig í þágu friðar og þæginda félagslega“ Innlent Klukkustunda bið eftir dekkjaskiptum í vetrarparadísinni Veður Klórar sér í kollinum yfir kvennaverkfallinu Innlent Skora á ráðherra og segir skjaldborg slegið um vændiskaupendur Innlent Fleiri fréttir Kröfur kvennaárs komnar í innheimtu og gjalddaginn fallinn Segir tilvalin íbúðasvæði opnast með Sundabraut Niðurrif hafið á gamla Morgunblaðshúsinu Næstum öllum sagt upp hjá dótturfélagi Play „Ég skoðanakúgaði sjálfa mig í þágu friðar og þæginda félagslega“ Burðardýr fengu þungan dóm fyrir kókaínsmygl Skora á ráðherra og segir skjaldborg slegið um vændiskaupendur Fresta fundi til tíu í fyrramálið Stórskemmtilegur innhringjandi og óhefðbundin útför Viðgerð muni taka einhverja mánuði „Afar ólíklegt“ að Nadine taki slaginn í borginni fyrir Miðflokkinn Grunuð um íkveikju í Nettó, Nytjamarkaðnum og eigin húsi Segir borgina refsa foreldrum til að mæta rekstrarvanda Aflýsa verkfalli öðru sinni Umferðarslys á Fagradal og veginum lokað Segir sorglega illa hafa verið haldið á hagsmunum flugsins Umferðarteppa í Ártúnsbrekku vegna aftanákeyrslu Bein útsending: Verndum vatnið Víða vetrarfærð, Fjarðarheiði lokuð og björgunarsveitir aðstoða fólk í föstum bílum Kettlingur í hættu vegna sprautunála og haldið í gíslingu af nágranna Kona í fjölbýlishúsinu talin brennuvargur en gengur laus „Vonbrigði hvað kom lítið út úr fundinum í gær“ Fangavörður rekinn fyrir að stela af fanga Óvissa á Grundartanga og flugumferðarstjórar funda Hafsteinn Dan tekur við formennsku í refsiréttarnefnd Klórar sér í kollinum yfir kvennaverkfallinu Hálfsdagslokun leikskóla skyndilega orðin að heilsdagslokun „Alvarlegt áfall á Grundartanga” sem beri að bregðast við hratt Ný samnorræn og baltnesk gervigreindarmiðstöð opnuð í dag „Það getur einhver verið að tæla barnið þitt fyrir framan þig“ Sjá meira