Óttast flóðbylgju barnaníðsefnis sköpuðu með aðstoð gervigreindar Hólmfríður Gísladóttir skrifar 8. nóvember 2023 07:07 Börn og foreldrar eru algjörlega varnarlaus gagnvart gervigreindarsköpuðu barnaníðsefni, þar sem allt sem þarf er mynd af andliti barnsins. Getty Móðir stúlku hvers mynd var notuð til að búa til barnaklám með aðstoð gervigreindar segist hafa heyrt frá mörg hundruð foreldrum sem segja börn sín einnig meðal fórnarlamba hinnar nýju tækni. Mál umræddrar stúlku og fleiri barna komst í hámæli á Spáni eftir að í ljós kom að myndir yfir 20 stúlkna í bænum Almendralejo voru notaðar til að búa til klám með aðstoð gervigreindar, sem var svo deilt á netinu. Stúlkurnar voru allar undir lögaldri, frá 11 til 17 ára. Móðir einnar þeirra, Miriam Al Adib, var meðal hóps foreldra sem ákvað að stofna stuðningshóp á netinu, sem varð til þess að fjöldi annarra foreldra setti sig í samband. Fólk lýsti því meðal annars hvernig það hefði ekki fengið neinn stuðning þegar upp komst að barnið þeirra hafði verið misnotað með þessum hætti. BBC fjallar um málið í dag en á dögunum fór fram fyrsta ráðstefna þarlendra stjórnvalda um hættur gervigreindar, þar sem innanríkisráðherrann Suella Braverman hét því að taka á gervigreindar-sköpuðu barnaníðsefni. Það væri afstaða stjórnvalda að klámefnið væri ólöglegt, jafnvel þótt ekki væri um að ræða raunveruleg börn. Susie Hargreaves, framkvæmdastjóri Internet Watch Foundation, segir afar brýnt að taka á vandanum. Áhyggjur væru uppi um flóðbylgju „skáldaðs“ barnaníðsefnis. „Þetta er ekki eitthvað sem er að fara að gerast, þetta er að gerast,“ segir hún. Samkvæmt skýrslu samtakanna fundust yfir 20.000 gervigreindar-skapaðar myndir á einu vefsvæði þar sem barnaníðsefni var deilt manna á milli. Í athugasemdum var „höfundum“ myndanna hrósað fyrir það hversu raunverulegar þær væru. Sumar myndanna höfðu verið búnar til útfrá myndum af fullklæddum börnum að leika sér í almenningsgarði. Gervigreind Börn og uppeldi Ofbeldi gegn börnum Netglæpir Kynferðisofbeldi Mest lesið Segir ljóst að Víðir hafi brotið stjórnsýslulög: „Það er verið að kaupa sér vinsældir“ Innlent Ætlar að gera allt í sínu valdi til að tryggja rekstur Kaffistofunnar Innlent Loka kaffiskúrnum umtalaða við Leifsstöð Innlent Öryggismál að eiga reiðufé heima fyrir „ef í harðbakkann slær“ Innlent Ríkið keypti nýjan sendiherrabústað á 750 milljónir Innlent „Auðvitað bregður fólki“ Innlent Inga endurvekur 25 metra regluna Innlent Stöðvaði miðasölu um leið og hann áttaði sig á stöðu mála Innlent Fádæma úrhelli á Ólafsfirði Innlent Hrottalegu ofbeldi lýst í ákæru á hendur Stefáni, Lúkasi og Matthíasi Innlent Fleiri fréttir Telja rúmensk glæpagengi smygla matarsendlum inn í Ósló Birtir þrisvar sinnum fleiri færslur en áður Svíar leigja fangelsispláss í Eistlandi Reyndi að bragðbæta baneitruðu máltíðina Musk hraunar yfir „stórt og fallegt“ frumvarp Trumps Rýming í Köln vegna þriggja sprengja frá seinni heimsstyrjöldinni Aftur hafin leit að Madeleine McCann Andstæðingi forsetans brottrekna spáð sigri í forsetakosningum Brúnni milli Rússlands og Krímskaga lokað eftir sprengingar Forsætisráðherra Hollands segir af sér Fjórir ákærðir í tengslum við morðið á C.Gambino Mun þingið fara fram hjá Trump? Víðir segist hafa tekið sjálfstæða ákvörðun í máli Oscars Yfirmaður FEMA sagðist ekki vita af tilvist fellibyljatímabila Leggur fram vantrauststillögu á eigin ríkisstjórn Parks & Rec leikari skotinn af nágranna sínum Frakklandsforseti heimsækir Grænland Wilders slítur ríkisstjórnarsamstarfinu Með sömu óásættanlegu kröfurnar Saka Ísraelsher aftur um að hafa skotið á hóp sem beið eftir hjálpargögnum Skipulagði árásina í Colorado í heilt ár Skyndikosningar framundan í Suður-Kóreu Engin tímamótaskref tekin á fundi Rússa og Úkraínumanna Nýkjörinn forseti Póllands: Trúrækinn sagnfræðingur og fyrrverandi hnefaleikakappi Sérfræðingar ESB gagnrýna áform þess um að útvatna loftslagsmarkmið Niðurstaðan setji áform ríkisstjórnarinnar í uppnám Skjöl staðfesta að Tice var í haldi Assad-liða Vilja ganga á milli bols og höfuðs á geimrannsóknum í Bandaríkjunum Vill sameina þjóðina um hernaðaruppbyggingu Koma aftur saman eftir sögulegar árásir í Rússlandi Sjá meira
Mál umræddrar stúlku og fleiri barna komst í hámæli á Spáni eftir að í ljós kom að myndir yfir 20 stúlkna í bænum Almendralejo voru notaðar til að búa til klám með aðstoð gervigreindar, sem var svo deilt á netinu. Stúlkurnar voru allar undir lögaldri, frá 11 til 17 ára. Móðir einnar þeirra, Miriam Al Adib, var meðal hóps foreldra sem ákvað að stofna stuðningshóp á netinu, sem varð til þess að fjöldi annarra foreldra setti sig í samband. Fólk lýsti því meðal annars hvernig það hefði ekki fengið neinn stuðning þegar upp komst að barnið þeirra hafði verið misnotað með þessum hætti. BBC fjallar um málið í dag en á dögunum fór fram fyrsta ráðstefna þarlendra stjórnvalda um hættur gervigreindar, þar sem innanríkisráðherrann Suella Braverman hét því að taka á gervigreindar-sköpuðu barnaníðsefni. Það væri afstaða stjórnvalda að klámefnið væri ólöglegt, jafnvel þótt ekki væri um að ræða raunveruleg börn. Susie Hargreaves, framkvæmdastjóri Internet Watch Foundation, segir afar brýnt að taka á vandanum. Áhyggjur væru uppi um flóðbylgju „skáldaðs“ barnaníðsefnis. „Þetta er ekki eitthvað sem er að fara að gerast, þetta er að gerast,“ segir hún. Samkvæmt skýrslu samtakanna fundust yfir 20.000 gervigreindar-skapaðar myndir á einu vefsvæði þar sem barnaníðsefni var deilt manna á milli. Í athugasemdum var „höfundum“ myndanna hrósað fyrir það hversu raunverulegar þær væru. Sumar myndanna höfðu verið búnar til útfrá myndum af fullklæddum börnum að leika sér í almenningsgarði.
Gervigreind Börn og uppeldi Ofbeldi gegn börnum Netglæpir Kynferðisofbeldi Mest lesið Segir ljóst að Víðir hafi brotið stjórnsýslulög: „Það er verið að kaupa sér vinsældir“ Innlent Ætlar að gera allt í sínu valdi til að tryggja rekstur Kaffistofunnar Innlent Loka kaffiskúrnum umtalaða við Leifsstöð Innlent Öryggismál að eiga reiðufé heima fyrir „ef í harðbakkann slær“ Innlent Ríkið keypti nýjan sendiherrabústað á 750 milljónir Innlent „Auðvitað bregður fólki“ Innlent Inga endurvekur 25 metra regluna Innlent Stöðvaði miðasölu um leið og hann áttaði sig á stöðu mála Innlent Fádæma úrhelli á Ólafsfirði Innlent Hrottalegu ofbeldi lýst í ákæru á hendur Stefáni, Lúkasi og Matthíasi Innlent Fleiri fréttir Telja rúmensk glæpagengi smygla matarsendlum inn í Ósló Birtir þrisvar sinnum fleiri færslur en áður Svíar leigja fangelsispláss í Eistlandi Reyndi að bragðbæta baneitruðu máltíðina Musk hraunar yfir „stórt og fallegt“ frumvarp Trumps Rýming í Köln vegna þriggja sprengja frá seinni heimsstyrjöldinni Aftur hafin leit að Madeleine McCann Andstæðingi forsetans brottrekna spáð sigri í forsetakosningum Brúnni milli Rússlands og Krímskaga lokað eftir sprengingar Forsætisráðherra Hollands segir af sér Fjórir ákærðir í tengslum við morðið á C.Gambino Mun þingið fara fram hjá Trump? Víðir segist hafa tekið sjálfstæða ákvörðun í máli Oscars Yfirmaður FEMA sagðist ekki vita af tilvist fellibyljatímabila Leggur fram vantrauststillögu á eigin ríkisstjórn Parks & Rec leikari skotinn af nágranna sínum Frakklandsforseti heimsækir Grænland Wilders slítur ríkisstjórnarsamstarfinu Með sömu óásættanlegu kröfurnar Saka Ísraelsher aftur um að hafa skotið á hóp sem beið eftir hjálpargögnum Skipulagði árásina í Colorado í heilt ár Skyndikosningar framundan í Suður-Kóreu Engin tímamótaskref tekin á fundi Rússa og Úkraínumanna Nýkjörinn forseti Póllands: Trúrækinn sagnfræðingur og fyrrverandi hnefaleikakappi Sérfræðingar ESB gagnrýna áform þess um að útvatna loftslagsmarkmið Niðurstaðan setji áform ríkisstjórnarinnar í uppnám Skjöl staðfesta að Tice var í haldi Assad-liða Vilja ganga á milli bols og höfuðs á geimrannsóknum í Bandaríkjunum Vill sameina þjóðina um hernaðaruppbyggingu Koma aftur saman eftir sögulegar árásir í Rússlandi Sjá meira