Óttast flóðbylgju barnaníðsefnis sköpuðu með aðstoð gervigreindar Hólmfríður Gísladóttir skrifar 8. nóvember 2023 07:07 Börn og foreldrar eru algjörlega varnarlaus gagnvart gervigreindarsköpuðu barnaníðsefni, þar sem allt sem þarf er mynd af andliti barnsins. Getty Móðir stúlku hvers mynd var notuð til að búa til barnaklám með aðstoð gervigreindar segist hafa heyrt frá mörg hundruð foreldrum sem segja börn sín einnig meðal fórnarlamba hinnar nýju tækni. Mál umræddrar stúlku og fleiri barna komst í hámæli á Spáni eftir að í ljós kom að myndir yfir 20 stúlkna í bænum Almendralejo voru notaðar til að búa til klám með aðstoð gervigreindar, sem var svo deilt á netinu. Stúlkurnar voru allar undir lögaldri, frá 11 til 17 ára. Móðir einnar þeirra, Miriam Al Adib, var meðal hóps foreldra sem ákvað að stofna stuðningshóp á netinu, sem varð til þess að fjöldi annarra foreldra setti sig í samband. Fólk lýsti því meðal annars hvernig það hefði ekki fengið neinn stuðning þegar upp komst að barnið þeirra hafði verið misnotað með þessum hætti. BBC fjallar um málið í dag en á dögunum fór fram fyrsta ráðstefna þarlendra stjórnvalda um hættur gervigreindar, þar sem innanríkisráðherrann Suella Braverman hét því að taka á gervigreindar-sköpuðu barnaníðsefni. Það væri afstaða stjórnvalda að klámefnið væri ólöglegt, jafnvel þótt ekki væri um að ræða raunveruleg börn. Susie Hargreaves, framkvæmdastjóri Internet Watch Foundation, segir afar brýnt að taka á vandanum. Áhyggjur væru uppi um flóðbylgju „skáldaðs“ barnaníðsefnis. „Þetta er ekki eitthvað sem er að fara að gerast, þetta er að gerast,“ segir hún. Samkvæmt skýrslu samtakanna fundust yfir 20.000 gervigreindar-skapaðar myndir á einu vefsvæði þar sem barnaníðsefni var deilt manna á milli. Í athugasemdum var „höfundum“ myndanna hrósað fyrir það hversu raunverulegar þær væru. Sumar myndanna höfðu verið búnar til útfrá myndum af fullklæddum börnum að leika sér í almenningsgarði. Gervigreind Börn og uppeldi Ofbeldi gegn börnum Netglæpir Kynferðisofbeldi Mest lesið Miðflokkur rýkur upp en Sjálfstæðisflokkur dalar Innlent Ný ráðgjafarnefnd Kennedy hyggst endurskoða bólusetningar barna Erlent Hvar er Khamenei? Erlent Nýju tilboði í Háholt svarað með gagntilboði Innlent „Þetta er svona hús sem er alltaf verið að flytja í og úr“ Innlent Barnasáttmálinn verið þverbrotinn í barnvænu sveitarfélagi Innlent Þorgerður niðurlægi konur með því að kalla Trump heillandi Innlent Veita engar upplýsingar um tilboðið í Háholt Innlent Búast má við töluverðum dembum Veður Veik stofnun skaði fjárhag ríkissjóðs Innlent Fleiri fréttir „Áreiðanleg gögn“ sanni verulegt tjón á kjarnorkumannvirkjum Hvar er Khamenei? Ný ráðgjafarnefnd Kennedy hyggst endurskoða bólusetningar barna Stofna sérstakan dómstól vegna árásarglæpa Rússa Segist funda með ráðamönnum Íran í næstu viku Trump íhugar að láta Úkraínumenn fá fleiri Patriot-kerfi Kristrún missti af fundi með Selenskí Tók í spaðann á Trump: „Hann er nú heillandi, karlinn“ Segir Spánverja munu borga fyrir að borga ekki nóg Lögðu grunninn að „sterkara, sanngjarnara og banvænna“ NATO Telur engan vafa um að Bandaríkin verji bandamenn sína Biðst afsökunar á gyðingahatri Svíþjóðardemókrata Diddy ætlar ekki að bera vitni Trump gefur lítið fyrir Pentagon skýrsluna og segir árásina hafa heppnast fullkomlega 33 ára sósíalisti hafði betur gegn Cuomo í New York Bretar eignast aftur herþotur sem geta flutt kjarnorkuvopn Myndaveisla: Fyrsti dagur leiðtogafundar Atlantshafsbandalagsins Æsispennandi forval: Framtíð Demókrataflokksins gæti ráðist í New York Átök í Miðausturlöndum: „Erfitt að meta hvað er í raun og veru í gangi“ Ný skýrsla: Bandaríkjunum mistókst að eyðileggja kjarnorkumannvirki Írana „Þrátt fyrir allan þennan vígbúnað þá er þetta mjög vinalegt“ „Honum fylgir auðvitað ákveðinn ófyrirsjáanleiki“ Óbreyttir borgarar féllu í árásum Rússa á úkraínskar borgir Íranir neita að hafa skotið eldflaugum Áhrifavaldur sakaður um að bera ábyrgð á dauða dóttur sinnar Segir vopnahlé í höfn Trump þakkar Írönum fyrir að láta vita af sér Rýma sextán þorp vegna gróðurelda í Grikklandi Íranir ráðast á herstöð Bandaríkjamanna í Katar Handtóku Evrópubúa sakaðan um njósnir fyrir Ísrael Sjá meira
Mál umræddrar stúlku og fleiri barna komst í hámæli á Spáni eftir að í ljós kom að myndir yfir 20 stúlkna í bænum Almendralejo voru notaðar til að búa til klám með aðstoð gervigreindar, sem var svo deilt á netinu. Stúlkurnar voru allar undir lögaldri, frá 11 til 17 ára. Móðir einnar þeirra, Miriam Al Adib, var meðal hóps foreldra sem ákvað að stofna stuðningshóp á netinu, sem varð til þess að fjöldi annarra foreldra setti sig í samband. Fólk lýsti því meðal annars hvernig það hefði ekki fengið neinn stuðning þegar upp komst að barnið þeirra hafði verið misnotað með þessum hætti. BBC fjallar um málið í dag en á dögunum fór fram fyrsta ráðstefna þarlendra stjórnvalda um hættur gervigreindar, þar sem innanríkisráðherrann Suella Braverman hét því að taka á gervigreindar-sköpuðu barnaníðsefni. Það væri afstaða stjórnvalda að klámefnið væri ólöglegt, jafnvel þótt ekki væri um að ræða raunveruleg börn. Susie Hargreaves, framkvæmdastjóri Internet Watch Foundation, segir afar brýnt að taka á vandanum. Áhyggjur væru uppi um flóðbylgju „skáldaðs“ barnaníðsefnis. „Þetta er ekki eitthvað sem er að fara að gerast, þetta er að gerast,“ segir hún. Samkvæmt skýrslu samtakanna fundust yfir 20.000 gervigreindar-skapaðar myndir á einu vefsvæði þar sem barnaníðsefni var deilt manna á milli. Í athugasemdum var „höfundum“ myndanna hrósað fyrir það hversu raunverulegar þær væru. Sumar myndanna höfðu verið búnar til útfrá myndum af fullklæddum börnum að leika sér í almenningsgarði.
Gervigreind Börn og uppeldi Ofbeldi gegn börnum Netglæpir Kynferðisofbeldi Mest lesið Miðflokkur rýkur upp en Sjálfstæðisflokkur dalar Innlent Ný ráðgjafarnefnd Kennedy hyggst endurskoða bólusetningar barna Erlent Hvar er Khamenei? Erlent Nýju tilboði í Háholt svarað með gagntilboði Innlent „Þetta er svona hús sem er alltaf verið að flytja í og úr“ Innlent Barnasáttmálinn verið þverbrotinn í barnvænu sveitarfélagi Innlent Þorgerður niðurlægi konur með því að kalla Trump heillandi Innlent Veita engar upplýsingar um tilboðið í Háholt Innlent Búast má við töluverðum dembum Veður Veik stofnun skaði fjárhag ríkissjóðs Innlent Fleiri fréttir „Áreiðanleg gögn“ sanni verulegt tjón á kjarnorkumannvirkjum Hvar er Khamenei? Ný ráðgjafarnefnd Kennedy hyggst endurskoða bólusetningar barna Stofna sérstakan dómstól vegna árásarglæpa Rússa Segist funda með ráðamönnum Íran í næstu viku Trump íhugar að láta Úkraínumenn fá fleiri Patriot-kerfi Kristrún missti af fundi með Selenskí Tók í spaðann á Trump: „Hann er nú heillandi, karlinn“ Segir Spánverja munu borga fyrir að borga ekki nóg Lögðu grunninn að „sterkara, sanngjarnara og banvænna“ NATO Telur engan vafa um að Bandaríkin verji bandamenn sína Biðst afsökunar á gyðingahatri Svíþjóðardemókrata Diddy ætlar ekki að bera vitni Trump gefur lítið fyrir Pentagon skýrsluna og segir árásina hafa heppnast fullkomlega 33 ára sósíalisti hafði betur gegn Cuomo í New York Bretar eignast aftur herþotur sem geta flutt kjarnorkuvopn Myndaveisla: Fyrsti dagur leiðtogafundar Atlantshafsbandalagsins Æsispennandi forval: Framtíð Demókrataflokksins gæti ráðist í New York Átök í Miðausturlöndum: „Erfitt að meta hvað er í raun og veru í gangi“ Ný skýrsla: Bandaríkjunum mistókst að eyðileggja kjarnorkumannvirki Írana „Þrátt fyrir allan þennan vígbúnað þá er þetta mjög vinalegt“ „Honum fylgir auðvitað ákveðinn ófyrirsjáanleiki“ Óbreyttir borgarar féllu í árásum Rússa á úkraínskar borgir Íranir neita að hafa skotið eldflaugum Áhrifavaldur sakaður um að bera ábyrgð á dauða dóttur sinnar Segir vopnahlé í höfn Trump þakkar Írönum fyrir að láta vita af sér Rýma sextán þorp vegna gróðurelda í Grikklandi Íranir ráðast á herstöð Bandaríkjamanna í Katar Handtóku Evrópubúa sakaðan um njósnir fyrir Ísrael Sjá meira