Jafngildir það að eyða meðvitaðri gervigreind því að drepa dýr? Hólmfríður Gísladóttir skrifar 4. febrúar 2025 07:24 Stephen Fry er meðal þeirra sem undirrita bréfið. Getty/Sebastian Reuter Yfir 100 vísindamenn og hugsuðir hafa undirritað opið bréf þar sem þeir hvetja til stefnumótunar varðandi þróun gervigreindar með sjálfsmeðvitund og tilfinningar. Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið. Gervigreind Mannréttindi Mest lesið Árásarmaðurinn ölvaður Íslendingur Innlent Ráðist á rútubílstjóra og vegfarendur yfirbuguðu árásarmanninn Innlent Hættu leit eftir þrjá tíma að þeim sem féll útbyrðis úr Norrænu Erlent „Samfélagsleg ábyrgð þessa fyrirtækis virðist ekki vera nein“ Innlent Formaður og gjaldkeri Vorstjörnunnar kærð fyrir efnahagsbrot Innlent Krefst aðkomu Vinstri grænna að endurmótun varnarmálastefnu Innlent Mikil reiði á Þingeyri vegna flutnings fóðurstöðvar Arctic Fish Innlent Ekki gagnlegt að stilla fyrirtækjum upp gegn starfsfólki Innlent Rektorar allra íslenskra háskóla lýsa yfir miklum áhyggjum Innlent Sæta lögreglurannsókn vegna níðsöngva um ísraelska herinn Erlent Fleiri fréttir Sæta lögreglurannsókn vegna níðsöngva um ísraelska herinn Hættu leit eftir þrjá tíma að þeim sem féll útbyrðis úr Norrænu Íranir geti aftur byrjað að auðga úran eftir nokkra mánuði Metþátttaka í ólöglegri göngu: „Það er mikill hugur í fólki“ Þúsundir syrgja í Tehran og Trump segir æðstaklerkinn ljúga Hæstaréttardómarar fjarlægðu flein úr holdi Bandaríkjaforseta Lífstíðarfangelsi fyrir að myrða 14 ára dreng með samúræjasverði Finna fyrir fjarveru Bandaríkjanna á loftslagsfundi en sakna þeirra ekki Ungar konur særðust í skotárás í Nuuk Sá sem samdi Mission: Impossible lagið er látinn Stjúpsonur norska krónprinsins grunaður um nauðganir Dönsk stjórnvöld vilja tryggja fólki höfundarrétt að eigin persónu Stígur fram og segir Írani hafa löðrungað Bandaríkin „Áreiðanleg gögn“ sanni verulegt tjón á kjarnorkumannvirkjum Hvar er Khamenei? Ný ráðgjafarnefnd Kennedy hyggst endurskoða bólusetningar barna Stofna sérstakan dómstól vegna árásarglæpa Rússa Segist funda með ráðamönnum Íran í næstu viku Trump íhugar að láta Úkraínumenn fá fleiri Patriot-kerfi Kristrún missti af fundi með Selenskí Tók í spaðann á Trump: „Hann er nú heillandi, karlinn“ Segir Spánverja munu borga fyrir að borga ekki nóg Lögðu grunninn að „sterkara, sanngjarnara og banvænna“ NATO Telur engan vafa um að Bandaríkin verji bandamenn sína Biðst afsökunar á gyðingahatri Svíþjóðardemókrata Diddy ætlar ekki að bera vitni Trump gefur lítið fyrir Pentagon skýrsluna og segir árásina hafa heppnast fullkomlega 33 ára sósíalisti hafði betur gegn Cuomo í New York Bretar eignast aftur herþotur sem geta flutt kjarnorkuvopn Myndaveisla: Fyrsti dagur leiðtogafundar Atlantshafsbandalagsins Sjá meira
Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið.
Gervigreind Mannréttindi Mest lesið Árásarmaðurinn ölvaður Íslendingur Innlent Ráðist á rútubílstjóra og vegfarendur yfirbuguðu árásarmanninn Innlent Hættu leit eftir þrjá tíma að þeim sem féll útbyrðis úr Norrænu Erlent „Samfélagsleg ábyrgð þessa fyrirtækis virðist ekki vera nein“ Innlent Formaður og gjaldkeri Vorstjörnunnar kærð fyrir efnahagsbrot Innlent Krefst aðkomu Vinstri grænna að endurmótun varnarmálastefnu Innlent Mikil reiði á Þingeyri vegna flutnings fóðurstöðvar Arctic Fish Innlent Ekki gagnlegt að stilla fyrirtækjum upp gegn starfsfólki Innlent Rektorar allra íslenskra háskóla lýsa yfir miklum áhyggjum Innlent Sæta lögreglurannsókn vegna níðsöngva um ísraelska herinn Erlent Fleiri fréttir Sæta lögreglurannsókn vegna níðsöngva um ísraelska herinn Hættu leit eftir þrjá tíma að þeim sem féll útbyrðis úr Norrænu Íranir geti aftur byrjað að auðga úran eftir nokkra mánuði Metþátttaka í ólöglegri göngu: „Það er mikill hugur í fólki“ Þúsundir syrgja í Tehran og Trump segir æðstaklerkinn ljúga Hæstaréttardómarar fjarlægðu flein úr holdi Bandaríkjaforseta Lífstíðarfangelsi fyrir að myrða 14 ára dreng með samúræjasverði Finna fyrir fjarveru Bandaríkjanna á loftslagsfundi en sakna þeirra ekki Ungar konur særðust í skotárás í Nuuk Sá sem samdi Mission: Impossible lagið er látinn Stjúpsonur norska krónprinsins grunaður um nauðganir Dönsk stjórnvöld vilja tryggja fólki höfundarrétt að eigin persónu Stígur fram og segir Írani hafa löðrungað Bandaríkin „Áreiðanleg gögn“ sanni verulegt tjón á kjarnorkumannvirkjum Hvar er Khamenei? Ný ráðgjafarnefnd Kennedy hyggst endurskoða bólusetningar barna Stofna sérstakan dómstól vegna árásarglæpa Rússa Segist funda með ráðamönnum Íran í næstu viku Trump íhugar að láta Úkraínumenn fá fleiri Patriot-kerfi Kristrún missti af fundi með Selenskí Tók í spaðann á Trump: „Hann er nú heillandi, karlinn“ Segir Spánverja munu borga fyrir að borga ekki nóg Lögðu grunninn að „sterkara, sanngjarnara og banvænna“ NATO Telur engan vafa um að Bandaríkin verji bandamenn sína Biðst afsökunar á gyðingahatri Svíþjóðardemókrata Diddy ætlar ekki að bera vitni Trump gefur lítið fyrir Pentagon skýrsluna og segir árásina hafa heppnast fullkomlega 33 ára sósíalisti hafði betur gegn Cuomo í New York Bretar eignast aftur herþotur sem geta flutt kjarnorkuvopn Myndaveisla: Fyrsti dagur leiðtogafundar Atlantshafsbandalagsins Sjá meira