Forsvarsmenn OpenAI kalla eftir Alþjóðagervigreindarstofnun Hólmfríður Gísladóttir skrifar 24. maí 2023 07:12 Margir sjá fyrir sér að ofurgreind gæti tortímt mannkyninu en ógnirnar eru í raun mun fleiri og lúmskari. Stofnendur og stjórnendur OpenAI, sem eru að þróa gervigreindarforritið ChatGPT, kalla eftir því að komið verði á laggirnar stofnun á borð við Alþjóðakjarnorkumálastofnunina til að vernda mannkynið frá því að þróa „ofurgáfaða“ gervigreind sem gæti tortímt mannkyninu. Í ávarpi á vefsíðu fyrirtækisins kalla stofnendurnir Greg Brockman og Ilya Sutskever og framkvæmdastjórinn Sam Altman eftir því að alþjóðasamfélagið hefji vinnu við að rannsaka hvernig draga megi úr „tilvistarlegri áhættu“ gervigreindar með eftirliti, öryggisstöðlum og takmörkunum. Stjórnendur OpenAI segja mögulegt að á næstu tíu árum muni gervigreind taka fram úr sérfræðikunnáttu mannsins á flestum sviðum. Þetta muni hafa kosti og galla í för með sér en ofurgreind muni verða öflugasta tæknin sem maðurinn hefur nokkurn tímann þurft að fást við. Þeir segja gervigreindina munu opna á fordæmalausa hagsæld en tilvistarleg ógn geri það að verkum að grípa þurfi til forvarna. Til skemmri tíma ættu fyrirtæki sem eru leiðandi í þróun gervigreindar að taka sig saman um samfélagslega aðlögun með öryggi að leiðarljósi. Initial ideas for governance of superintelligence, including forming an international oversight organization for future AI systems much more capable than any today: https://t.co/9hJ9n2BZo7— OpenAI (@OpenAI) May 22, 2023 Center for AI Safety (CAIS) hefur tekið saman lista yfir mögulegar sviðsmyndir þar sem gervigreindin hefur fengið að þróast án eftirlits. Sérfræðingar stofnunarinnar sjá meðal annars fyrir sér að mannkynið gæti orðið algjörlega háð vélum og/eða að varanleg stéttskipting gæti orðið milli þess fámenna hóps sem á og stjórnar gervigreindinni og allra annara. Stjórnendur OpenAI segja því mikilvægt að fólk alls staðar í heiminum taki lýðræðislega ákvörðun um takmörk og umfang gervigreindarforrita. Þeir séu hins vegar ekki með svörin við því hvernig eigi að útfæra eftirlitið. Það sé ekki raunhæft að ætla að stöðva þróun gervigreindar, bæði vegna þess hversu jákvæðar breytingar hún muni hafa í för með sér en einnig vegna þess að maðurinn sé nú þegar komin á þá braut að gervigreindin sé það sem koma skal. Umfjöllun Guardian. Gervigreind Tækni Vísindi Mest lesið „Sjaldan hefur stjórnmálamaður verið hamflettur jafn rækilega“ Innlent „Hef ekki hitt neinn arkitekt sem finnst þetta góð hugmynd“ Innlent „Það er rosalega ljótt að segja þetta en mér líður bara þannig“ Innlent Lét högg og spörk dynja á foreldrunum í tíu klukkustundir Innlent Segir viðbrögð Bjarnheiðar vekja „óþægilegar minningar“ Innlent „Ég held að þetta sé ekki bóla“ Innlent Komu göngumönnum í sjálfheldu til aðstoðar Innlent „Það þarf sennilega að moka þennan bíl upp“ Innlent Rússnesk herflugvél mætt í Landeyjarnar Innlent Ákærð fyrir að bana föður og tilraun til að bana móður Innlent Fleiri fréttir Kanada í hóp þeirra sem hyggjast viðurkenna sjálfstæði Palestínu Sjö dáið úr hungri síðasta sólarhringinn Rannsaka tengsl þyngdarstjórnunarlyfja við bráða brisbólgu Gargaði á flokksfélaga sína Fyrsta ástralska geimflaugin flaug í fjórtán sekúndur Maxwell vill friðhelgi fyrir vitnisburðinn Vill greiða sex milljarða tryggingu til að losna úr haldi Pokrovsk riðar til falls 8,8 stiga skjálfti í Rússlandi: Flóðbylgjuviðvaranir gefnar út víða um Kyrrahaf Arabaríki og lönd ESB kalla eftir tveggja ríkja lausn og afvopnun Hamas Ísland ekki í fararbroddi heldur fylgi öðrum í humátt á eftir „Hann stal henni“ Bretar hyggjast viðurkenna Palestínu sem sjálfstætt ríki Færeyingar heita refsiaðgerðum gegn Rússlandi: „Eigum eftir að sjá hvernig efndirnar verða“ Gefa lítið fyrir afarkosti Trumps Ætlaði í höfuðstöðvar NFL Bandarískir trúboðar herja á einangraða ættbálka með drónum og sólarknúnum afspilunartækjum Trump um Epstein: „Hann stal fólki sem vann fyrir mig“ Íhuga að greiða sextíu milljarða til að friðþægja Trump Hyggjast greiða 60 þúsund á ári fyrir öll börn undir þriggja ára „Versta mögulega tilfelli hungursneyðar“ Maxwell biðlar til Hæstaréttar Á annan tug í valnum eftir að Rússar sprengdu fangelsi í loft upp Trump segir „alvöru hungursneyð“ ríkja á Gasa Fjórir látnir eftir skotárás á Manhattan Vill að skýrslutaka Murdochs fari fram eins fljótt og hægt er Tóku tugi af lífi eftir að hafa fengið lausnarfé Elsti Gallagher-bróðirinn ákærður fyrir nauðgun Krísa yfirvofandi: Þurr svæði stækka og þorna hraðar Fækkar dögunum sem hann gaf Pútín: „Ég held ég viti þegar svarið“ Sjá meira
Í ávarpi á vefsíðu fyrirtækisins kalla stofnendurnir Greg Brockman og Ilya Sutskever og framkvæmdastjórinn Sam Altman eftir því að alþjóðasamfélagið hefji vinnu við að rannsaka hvernig draga megi úr „tilvistarlegri áhættu“ gervigreindar með eftirliti, öryggisstöðlum og takmörkunum. Stjórnendur OpenAI segja mögulegt að á næstu tíu árum muni gervigreind taka fram úr sérfræðikunnáttu mannsins á flestum sviðum. Þetta muni hafa kosti og galla í för með sér en ofurgreind muni verða öflugasta tæknin sem maðurinn hefur nokkurn tímann þurft að fást við. Þeir segja gervigreindina munu opna á fordæmalausa hagsæld en tilvistarleg ógn geri það að verkum að grípa þurfi til forvarna. Til skemmri tíma ættu fyrirtæki sem eru leiðandi í þróun gervigreindar að taka sig saman um samfélagslega aðlögun með öryggi að leiðarljósi. Initial ideas for governance of superintelligence, including forming an international oversight organization for future AI systems much more capable than any today: https://t.co/9hJ9n2BZo7— OpenAI (@OpenAI) May 22, 2023 Center for AI Safety (CAIS) hefur tekið saman lista yfir mögulegar sviðsmyndir þar sem gervigreindin hefur fengið að þróast án eftirlits. Sérfræðingar stofnunarinnar sjá meðal annars fyrir sér að mannkynið gæti orðið algjörlega háð vélum og/eða að varanleg stéttskipting gæti orðið milli þess fámenna hóps sem á og stjórnar gervigreindinni og allra annara. Stjórnendur OpenAI segja því mikilvægt að fólk alls staðar í heiminum taki lýðræðislega ákvörðun um takmörk og umfang gervigreindarforrita. Þeir séu hins vegar ekki með svörin við því hvernig eigi að útfæra eftirlitið. Það sé ekki raunhæft að ætla að stöðva þróun gervigreindar, bæði vegna þess hversu jákvæðar breytingar hún muni hafa í för með sér en einnig vegna þess að maðurinn sé nú þegar komin á þá braut að gervigreindin sé það sem koma skal. Umfjöllun Guardian.
Gervigreind Tækni Vísindi Mest lesið „Sjaldan hefur stjórnmálamaður verið hamflettur jafn rækilega“ Innlent „Hef ekki hitt neinn arkitekt sem finnst þetta góð hugmynd“ Innlent „Það er rosalega ljótt að segja þetta en mér líður bara þannig“ Innlent Lét högg og spörk dynja á foreldrunum í tíu klukkustundir Innlent Segir viðbrögð Bjarnheiðar vekja „óþægilegar minningar“ Innlent „Ég held að þetta sé ekki bóla“ Innlent Komu göngumönnum í sjálfheldu til aðstoðar Innlent „Það þarf sennilega að moka þennan bíl upp“ Innlent Rússnesk herflugvél mætt í Landeyjarnar Innlent Ákærð fyrir að bana föður og tilraun til að bana móður Innlent Fleiri fréttir Kanada í hóp þeirra sem hyggjast viðurkenna sjálfstæði Palestínu Sjö dáið úr hungri síðasta sólarhringinn Rannsaka tengsl þyngdarstjórnunarlyfja við bráða brisbólgu Gargaði á flokksfélaga sína Fyrsta ástralska geimflaugin flaug í fjórtán sekúndur Maxwell vill friðhelgi fyrir vitnisburðinn Vill greiða sex milljarða tryggingu til að losna úr haldi Pokrovsk riðar til falls 8,8 stiga skjálfti í Rússlandi: Flóðbylgjuviðvaranir gefnar út víða um Kyrrahaf Arabaríki og lönd ESB kalla eftir tveggja ríkja lausn og afvopnun Hamas Ísland ekki í fararbroddi heldur fylgi öðrum í humátt á eftir „Hann stal henni“ Bretar hyggjast viðurkenna Palestínu sem sjálfstætt ríki Færeyingar heita refsiaðgerðum gegn Rússlandi: „Eigum eftir að sjá hvernig efndirnar verða“ Gefa lítið fyrir afarkosti Trumps Ætlaði í höfuðstöðvar NFL Bandarískir trúboðar herja á einangraða ættbálka með drónum og sólarknúnum afspilunartækjum Trump um Epstein: „Hann stal fólki sem vann fyrir mig“ Íhuga að greiða sextíu milljarða til að friðþægja Trump Hyggjast greiða 60 þúsund á ári fyrir öll börn undir þriggja ára „Versta mögulega tilfelli hungursneyðar“ Maxwell biðlar til Hæstaréttar Á annan tug í valnum eftir að Rússar sprengdu fangelsi í loft upp Trump segir „alvöru hungursneyð“ ríkja á Gasa Fjórir látnir eftir skotárás á Manhattan Vill að skýrslutaka Murdochs fari fram eins fljótt og hægt er Tóku tugi af lífi eftir að hafa fengið lausnarfé Elsti Gallagher-bróðirinn ákærður fyrir nauðgun Krísa yfirvofandi: Þurr svæði stækka og þorna hraðar Fækkar dögunum sem hann gaf Pútín: „Ég held ég viti þegar svarið“ Sjá meira