Óheppilegt ef fölsk mynd varpar sök á saklausan mann Tómas Arnar Þorláksson skrifar 31. júlí 2025 23:00 Unnar Már Ástþórsson, aðalvarðstjóri lögreglunnar á höfuðborgarsvæðinu. vísir/ívar Lögreglan á höfuðborgarsvæðinu er miður sín eftir að hafa dreift mynd sem hafði verið breytt með gervigreind. Það hefði getað haft alvarlegar afleiðingar í för með sér að sögn aðalvarðstjóra. Hann vonar að mannleg mistök komi ekki til með að rýra traust almennings til lögreglunnar. Lögreglan á höfuðborgarsvæðinu deildi í gær ljósmynd með það fyrir stafni að fá frekari upplýsingar um fjóra menn sem höfðu verið staðnir að því í upptöku úr öryggismyndavél að stela dísilolíu úr flutningabíl. Eina vandamálið er að mennirnir á ljósmyndinni og mennirnir í upptökunni eru alls ekki þeir sömu. Það hafði verið átt við skjáskot úr öryggismyndavélinni með þeim afleiðingum að skáldað var í eyðurnar eins og sjá má. Til að mynda var gullkeðju bætt við ásamt merki á bifreiðina, húfu breytt í hár og í raun andlit og svipbrigði skálduð frá grunni. „Við erum mjög miður okkar yfir þessu“ Lögreglan baðst að lokum afsökunar á myndinni og fjarlægði hana. Unnar Már Ástþórsson, aðalvarðstjóri hjá lögreglunni á höfuðborgarsvæðinu, segir enn ekki ljóst hver uppruni myndarinnar sé. „Við erum mjög miður okkar yfir þessu, að þetta hafi gerst. Við höfum alveg komið fram með það núna í dag að við höfum beðist innilegrar afsökunar á þessu. Auðvitað er það óheppilegt að lögreglan birti myndir sem varpa mögulega sök á einstakling sem er saklaus.“ Umrædd mynd var upphaflega birt á Facebook-hópnum Þjófar á Íslandi af aðgangi sem var stofnaður í maí og siglir undir fölsku flaggi. Lögreglan fékk síðan myndina senda. Mannleg mistök hafi orðið til þess að hún var birt og verða verkferlar því endurskoðaðir. Hafið þið áhyggjur af því að þetta rýri traust til lögreglunnar? „Við höfum alltaf áhyggjur af því að mistök okkar verði til þess að rýra traust. Vinnan okkar felst í því, hvernig við tökum á móti myndunum, hvernig við yfirfærum myndirnar. Er sannarlega um rétt myndefni að ræða?“ Komið fyrir að saklaus maður sé handtekinn vegna gervigreindar Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands og sérfræðingur um gervigreind, segir að forrit sem slík eigi það til að halla á ákveðna minnihlutahópa og skálda í eyðurnar. „Það eru þekkt dæmi um það. Margar svona aðferðir voru þjálfaðar, allavega í fyrndinni, mest á hvítu fólki. Svona bjagar geta leynst í svona líkunum. Við vitum oft ekkert hvaða bjagar eru í þeim og á hvaða gögnum þau hafa verið þjálfuð.“ Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands.vísir/ívar Veist þú til þess að eitthvað líkt þessu hafi gerst áður? „Það eru nokkur dæmi frá Bandaríkjunum þar sem er búið að taka mynd af einstakling sem er í lágri upplausn eins og er hér. Síðan er flett upp í gagnagrunni af ökuskírteinum og einhver er ranglega handtekinn, því það er búið að fletta upp rangri manneskju. Og það er gert með gervigreind. Gervigreind hefur leitt til mistaka eins og hefði getað gerst hér. Það hefur gerst að einhver er ranglega handtekinn út af gervigreind.“ Hann ítrekar að þegar að upplausn er jafn lítil eins og raun ber vitni í umræddri upptöku úr öryggismyndavél er ekki hægt að þysja inn eins og er oft sýnt í kvikmyndum. Þvert á móti býr gervigreindin til ný gögn og nýjar upplýsingar. „Gervigreindin er að fara verða það góð með tímanum að við sjáum mögulega ekkert lengur með tímanum hvað kemur frá gervigreind og hvað ekki.“ Lögreglumál Gervigreind Lögreglan Mest lesið Grunaður hraðbankaþjófur nennti ekki með austur nóttina örlagaríku Innlent Glímdi við veikindi fyrir andlátið sem breyttu persónuleika hans Innlent Mannskæð skotárás í skóla í Bandaríkjunum Erlent Ekki séð neitt þessu líkt á sínum fjörutíu ára ferli Innlent Til skoðunar að flytja Sjálfstæðisflokkinn úr Valhöll Innlent Stefna Open AI vegna sjálfsvígs sonarins Erlent Supu hveljur á fundi með ráðherra á Egilsstöðum Innlent Gátu ekki opnað hraðbankann þrátt fyrir ítrekaðar tilraunir Innlent Er við góða líkamlega heilsu en heilinn að „bregðast honum“ Erlent Raðsundlaugarkúkari gengur laus í Oulu Erlent Fleiri fréttir Sé hægt að gera byltingu í íslensku heilbrigðiskerfi Skólamál í Kópavogi: Bókun eftir bókun á fundi bæjarstjórnar Hafna „órökstuddum fullyrðingum“ Sigurðar Inga Þyrlan kölluð út vegna slasaðs manns í Gemludal Menningarráðherra skipaði son heilbrigðisráðherra í formannsstörf Vara við svikapóstum í þeirra nafni Bylting framundan en Landspítalinn þurfi að hlaupa hraðar Faðir plokksins kenndi ráðherra að plokka Gátu ekki opnað hraðbankann þrátt fyrir ítrekaðar tilraunir Kári Stefánsson í beinni, erfiður hraðbanki og Dönum ekki skemmt Óttuðust um ferðamenn sem sátu fastir í Markarfljóti Glímdi við veikindi fyrir andlátið sem breyttu persónuleika hans Hraðbankaþjófur játar sök Framlengja gæsluvarðhald yfir leiðbeinandanum um fjórar vikur Supu hveljur á fundi með ráðherra á Egilsstöðum Grunaður hraðbankaþjófur nennti ekki með austur nóttina örlagaríku Með mikla áverka og mjög kaldur þegar hann fannst Móðirin áfram í haldi og húsleit á Írlandi Til skoðunar að flytja Sjálfstæðisflokkinn úr Valhöll Losun Íslands jókst á öllum sviðum og langt í land með skuldbindingar Bylting í heilbrigðisþjónustu og áróður Bandaríkjamanna Vilja halda leiðbeinandanum áfram bak við lás og slá Kynna drög að nýrri stefnu í heilbrigðismálum Ekki séð neitt þessu líkt á sínum fjörutíu ára ferli Innbrot og slagsmál í miðborginni Segir dóminn áfellisdóm yfir seinagangi lögreglu í kynferðisbrotamálum Málafjöldi tvöfaldast milli ára: „Hálfur milljarður farinn nú þegar“ Heilbrigðisráðuneytið færir sig um set Enginn vilji taka ábyrgð á því hvenær eigi að loka Reynisfjöru Minntust þess ekki að hafa brennt tösku fyrir Stefán Blackburn Sjá meira
Lögreglan á höfuðborgarsvæðinu deildi í gær ljósmynd með það fyrir stafni að fá frekari upplýsingar um fjóra menn sem höfðu verið staðnir að því í upptöku úr öryggismyndavél að stela dísilolíu úr flutningabíl. Eina vandamálið er að mennirnir á ljósmyndinni og mennirnir í upptökunni eru alls ekki þeir sömu. Það hafði verið átt við skjáskot úr öryggismyndavélinni með þeim afleiðingum að skáldað var í eyðurnar eins og sjá má. Til að mynda var gullkeðju bætt við ásamt merki á bifreiðina, húfu breytt í hár og í raun andlit og svipbrigði skálduð frá grunni. „Við erum mjög miður okkar yfir þessu“ Lögreglan baðst að lokum afsökunar á myndinni og fjarlægði hana. Unnar Már Ástþórsson, aðalvarðstjóri hjá lögreglunni á höfuðborgarsvæðinu, segir enn ekki ljóst hver uppruni myndarinnar sé. „Við erum mjög miður okkar yfir þessu, að þetta hafi gerst. Við höfum alveg komið fram með það núna í dag að við höfum beðist innilegrar afsökunar á þessu. Auðvitað er það óheppilegt að lögreglan birti myndir sem varpa mögulega sök á einstakling sem er saklaus.“ Umrædd mynd var upphaflega birt á Facebook-hópnum Þjófar á Íslandi af aðgangi sem var stofnaður í maí og siglir undir fölsku flaggi. Lögreglan fékk síðan myndina senda. Mannleg mistök hafi orðið til þess að hún var birt og verða verkferlar því endurskoðaðir. Hafið þið áhyggjur af því að þetta rýri traust til lögreglunnar? „Við höfum alltaf áhyggjur af því að mistök okkar verði til þess að rýra traust. Vinnan okkar felst í því, hvernig við tökum á móti myndunum, hvernig við yfirfærum myndirnar. Er sannarlega um rétt myndefni að ræða?“ Komið fyrir að saklaus maður sé handtekinn vegna gervigreindar Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands og sérfræðingur um gervigreind, segir að forrit sem slík eigi það til að halla á ákveðna minnihlutahópa og skálda í eyðurnar. „Það eru þekkt dæmi um það. Margar svona aðferðir voru þjálfaðar, allavega í fyrndinni, mest á hvítu fólki. Svona bjagar geta leynst í svona líkunum. Við vitum oft ekkert hvaða bjagar eru í þeim og á hvaða gögnum þau hafa verið þjálfuð.“ Hafsteinn Einarsson, dósent í tölvunarfræði við Háskóla Íslands.vísir/ívar Veist þú til þess að eitthvað líkt þessu hafi gerst áður? „Það eru nokkur dæmi frá Bandaríkjunum þar sem er búið að taka mynd af einstakling sem er í lágri upplausn eins og er hér. Síðan er flett upp í gagnagrunni af ökuskírteinum og einhver er ranglega handtekinn, því það er búið að fletta upp rangri manneskju. Og það er gert með gervigreind. Gervigreind hefur leitt til mistaka eins og hefði getað gerst hér. Það hefur gerst að einhver er ranglega handtekinn út af gervigreind.“ Hann ítrekar að þegar að upplausn er jafn lítil eins og raun ber vitni í umræddri upptöku úr öryggismyndavél er ekki hægt að þysja inn eins og er oft sýnt í kvikmyndum. Þvert á móti býr gervigreindin til ný gögn og nýjar upplýsingar. „Gervigreindin er að fara verða það góð með tímanum að við sjáum mögulega ekkert lengur með tímanum hvað kemur frá gervigreind og hvað ekki.“
Lögreglumál Gervigreind Lögreglan Mest lesið Grunaður hraðbankaþjófur nennti ekki með austur nóttina örlagaríku Innlent Glímdi við veikindi fyrir andlátið sem breyttu persónuleika hans Innlent Mannskæð skotárás í skóla í Bandaríkjunum Erlent Ekki séð neitt þessu líkt á sínum fjörutíu ára ferli Innlent Til skoðunar að flytja Sjálfstæðisflokkinn úr Valhöll Innlent Stefna Open AI vegna sjálfsvígs sonarins Erlent Supu hveljur á fundi með ráðherra á Egilsstöðum Innlent Gátu ekki opnað hraðbankann þrátt fyrir ítrekaðar tilraunir Innlent Er við góða líkamlega heilsu en heilinn að „bregðast honum“ Erlent Raðsundlaugarkúkari gengur laus í Oulu Erlent Fleiri fréttir Sé hægt að gera byltingu í íslensku heilbrigðiskerfi Skólamál í Kópavogi: Bókun eftir bókun á fundi bæjarstjórnar Hafna „órökstuddum fullyrðingum“ Sigurðar Inga Þyrlan kölluð út vegna slasaðs manns í Gemludal Menningarráðherra skipaði son heilbrigðisráðherra í formannsstörf Vara við svikapóstum í þeirra nafni Bylting framundan en Landspítalinn þurfi að hlaupa hraðar Faðir plokksins kenndi ráðherra að plokka Gátu ekki opnað hraðbankann þrátt fyrir ítrekaðar tilraunir Kári Stefánsson í beinni, erfiður hraðbanki og Dönum ekki skemmt Óttuðust um ferðamenn sem sátu fastir í Markarfljóti Glímdi við veikindi fyrir andlátið sem breyttu persónuleika hans Hraðbankaþjófur játar sök Framlengja gæsluvarðhald yfir leiðbeinandanum um fjórar vikur Supu hveljur á fundi með ráðherra á Egilsstöðum Grunaður hraðbankaþjófur nennti ekki með austur nóttina örlagaríku Með mikla áverka og mjög kaldur þegar hann fannst Móðirin áfram í haldi og húsleit á Írlandi Til skoðunar að flytja Sjálfstæðisflokkinn úr Valhöll Losun Íslands jókst á öllum sviðum og langt í land með skuldbindingar Bylting í heilbrigðisþjónustu og áróður Bandaríkjamanna Vilja halda leiðbeinandanum áfram bak við lás og slá Kynna drög að nýrri stefnu í heilbrigðismálum Ekki séð neitt þessu líkt á sínum fjörutíu ára ferli Innbrot og slagsmál í miðborginni Segir dóminn áfellisdóm yfir seinagangi lögreglu í kynferðisbrotamálum Málafjöldi tvöfaldast milli ára: „Hálfur milljarður farinn nú þegar“ Heilbrigðisráðuneytið færir sig um set Enginn vilji taka ábyrgð á því hvenær eigi að loka Reynisfjöru Minntust þess ekki að hafa brennt tösku fyrir Stefán Blackburn Sjá meira