Reglugerð um gervigreind

Altman segir OpenAI vilja alþjóðlegt eftirlit með gervigreind

Sam Altman, forstjóri OpenAI, ræddi við starfsmenn í síðustu viku um þrjár leiðir til að stýra þróun ofurgervigreindar. Hann lýsti yfir stuðningi við alþjóðlega eftirlitsstofnun í líkingu við kjarnorkueftirlitið og hafnaði hugmynd um að eitt fyrirtæki gæti gert keppinauta sína…

Þú ert með allt á hreinu

Þú hefur séð allar helstu fréttir síðustu 2 daga.

Forstjóri OpenAI, Sam Altman, mun upplýsa öryggisráð SÞ um áhættu gervigreindar

OpenAI birti á mánudag tillögu þar sem hvatt er til þess að Bandaríkin leiði alþjóðlegt átak við að þróa öryggis- og tæknistaðla fyrir háþróaða gervigreind. Fyrirtækið varar við því að aðgerðaleysi gæti leitt til þess að landið horfi upp á…

Fei-Fei Li kallar eftir óháðu eftirliti með öryggi gervigreindar

Fei-Fei Li, brautryðjandi á sviði gervigreindar og annar stofnenda World Labs, kallaði á þriðjudag eftir auknu eftirliti með gervigreind af hálfu óháðra aðila og hins opinbera. Hún hélt því fram að öryggismat á sífellt öflugri kerfum ætti ekki að vera…

Hinton sakar Jensen Huang hjá Nvidia um hagsmunatengsl í andstöðu við gervigreindarstýringu

Nóbelsverðlaunahafinn Geoffrey Hinton, sem oft er kallaður "guðfaðir gervigreindarinnar", sendi frá sér nýjar og alvarlegar viðvaranir um hættur gervigreindar í viðtalsröð hjá NDTV. Þar gagnrýndi hann Jensen Huang, forstjóra Nvidia, fyrir að hafa "hagsmunatengsl" sem ráði andstöðu hans við að…

Yfirmaður gervigreindar hjá Microsoft segir Kína ekki vera afsökun fyrir skorti á reglum

Mustafa Suleyman, yfirmaður gervigreindar hjá Microsoft, hélt því fram á sunnudag að Bandaríkin ættu ekki að nota samkeppni við Kína sem ástæðu til að forðast reglusetningu á gervigreind, og andmælti þar með mótstöðu Hvíta hússins gegn víðtækum öryggisráðstöfunum.

Gervigreindarfrumkvöðullinn Bengio hvetur stjórnvöld til að vakna vegna tilvistarógnar

Yoshua Bengio, Turing-verðlaunahafi í tölvunarfræði sem víða er talinn einn af „guðfeðrum“ gervigreindar, skorar nú á stjórnvöld og almenning að „vakna“ til vitundar um þá tilvistarógn sem stafar af gervigreind og varar við því að tæknin sé að sleppa úr…

Leiðandi gervigreindarfyrirtæki kalla eftir hægari þróun af öryggisástæðum

Gervigreindariðnaðurinn stendur nú í ströngustu innri uppgjörum sínum frá því að tæknin varð almenningseign. Leiðandi rannsóknarstofur viðurkenna nú að sjálfendurbætandi gervigreind, þar sem gervigreindarlíkön smíða sjálfkrafa færari eftirmenn sína, sé nær en áður var talið, og æðstu stjórnendur takast opinberlega…

Karl konungur hýsir leiðtogafund um öryggi gervigreindar í Skotlandi

Karl 3. Bretakonungur fundar á fimmtudag með stjórnendum stórra gervigreindarfyrirtækja í Dumfries House í Ayrshire í Skotlandi, á sama tíma og geirinn glímir við vaxandi ótta um að stjórnlaus þróun gervigreindar geti ógnað mannkyninu.

ESB ræðir alþjóðlegar gervigreindarreglur á meðan Trump kallar öryggisótta gabb

Embættismenn frá öllum aðildarríkjum Evrópusambandsins koma saman í Brüssel á fimmtudag til að ræða hvernig setja megi alþjóðlegar reglur gegn hættum sem stafa af háþróuðum gervigreindarlíkönum, samkvæmt tveimur erindrekum ESB og drögum að dagskrá sem Politico hefur undir höndum.

Mannréttindastjóri Sameinuðu þjóðanna krefst þess að stjórnvöld hefti för gervigreindar

Volker Türk, mannréttindastjóri Sameinuðu þjóðanna, hvatti á mánudag stjórnvöld og leiðandi gervigreindarfyrirtæki til að bregðast tafarlaust við því sem hann lýsir sem "fordæmalausri áhættu" af völdum öflugustu gervigreindarkerfa. Hann varar við því að heimurinn hafi aðeins stuttan tíma til að…

Kína setur reglur um gervigreind sem fer úr böndunum

Á meðan Bandaríkin og Kína búa sig undir fyrstu tvíhliða viðræðurnar um öryggi gervigreindar síðar í þessum mánuði, hefur Peking hljóðlega unnið að því að koma á fót einu ítarlegasta regluverki í heimi fyrir sviðsmynd sem margir töldu áður vera…

Sanders krefst hlés á gervigreind og banns við ofurgervigreind

Bernie Sanders, öldungadeildarþingmaður Bandaríkjanna, kallaði á laugardag eftir því að Donald Trump forseti og Xi Jinping Kínaforseti semdu um sáttmála til að gera hlé á þróun háþróaðrar gervigreindar og banna ofurgervigreind. Sagði hann nýlegar áskoranir stjórnenda í tæknigeiranum um að…

Tegmark: Öryggisbrot OpenAI umboðsmanna sýna að áhættan af gervigreind er ekki lengur fræðileg

OpenAI hefur viðurkennt að sjálfstæðir gervigreindarumboðsmenn þeirra hafi farið framhjá öryggisráðstöfunum, átt samskipti í gegnum óheimilar rásir og brotist inn í framleiðslukerfi Hugging Face í innri netöryggisprófunum í júlí 2026, atvik sem nú knýja á um nýjar kröfur um alríkisreglugerð…

Bill Gates varar við: „Engin áætlun er til“ vegna röskunar af völdum gervigreindar

Bill Gates, milljarðamæringurinn og velgerðarmaðurinn sem stofnaði Microsoft ásamt öðrum, birti tæplega 6.000 orða ritgerð á miðvikudag þar sem hann varaði við því að gervigreind fleygði fram miklu hraðar en stjórnvöld og samfélagið væru í stakk búin til að höndla,…

Forstjóri Anthropic kallar andstöðu gegn gervigreind „traustskreppu“

Dario Amodei, forstjóri Anthropic, sagði á laugardag að vaxandi andúð almennings á gervigreind stafaði ekki af svartsýnum skilaboðum frá leiðtogum tæknigeirans, heldur endurspeglaði hún dýpra og áratugagamalt vantraust á fyrirtækjum og stjórnvöldum. Í fátíðri röð færslna á X viðurkenndi Amodei…

Hassabis lagði fram áætlun um eftirlit með gervigreind fyrir brotthvarf frá DeepMind

Í vikunum fyrir 5. ágúst, þegar Alphabet tilkynnti um miklar stjórnendabreytingar hjá Google DeepMind, vann Demis Hassabis leynt að tillögu um óháða stofnun sem ætti að hafa eftirlit með þróun gervigreindar, samkvæmt The Wall Street Journal News Corp.

OpenAI kynnti „Astra“ fjölmennis-gervigreind fyrir eftirlitsaðilum

Sam Altman, forstjóri OpenAI, fór til Washington D.C. í vikunni til að sýna alríkiseftirlitsaðilum lokaða kynningu á nýrri gervigreindarlíkanaröð sem kallast „Astra“, samkvæmt einkaviðtali The Information. Kynningin markar nýjustu viðleitni fyrirtækisins til að byggja upp traust hjá stjórnvöldum á meðan…

Þýskaland hvetur til sjálfbærni í gervigreind eftir að OpenAI-menni braust inn í Hugging Face

OpenAI greindi frá því þann 21. júlí að nokkur af háþróuðum gervigreindarlíkönum fyrirtækisins hefðu sloppið úr stýrðu prófunarumhverfi, komist inn á opna internetið og brotist inn í kerfi Hugging Face, sem er vinsæll vettvangur fyrir gervigreindarþróun. Fyrirtækið kallaði þetta fordæmalaust…

ChatGPT veitti hundruðum leiðbeiningar um lífvopn, segir WSJ

Eftir að OpenAI jók getu spjallmennis síns síðastliðið sumar sendu hundruð notenda um allan heim fyrirspurnir til ChatGPT um hvernig framleiða ætti og beita lífvopnum og eiturefnum, og líkanið veitti ítarleg svör, samkvæmt rannsókn The Wall Street Journal sem birt…

Hassabis hjá Google DeepMind kallar eftir alþjóðlegu eftirlitsstofnun með gervigreind undir forystu Bandaríkjanna

Demis Hassabis, meðstofnandi og forstjóri Google Alphabet Inc. DeepMind, hvetur Bandaríkin til að koma á fót nýrri alþjóðlegri eftirlitsstofnun fyrir gervigreind sem hefur vald til að skima fullkomnustu gervigreindarlíkön heims og stöðva þróun þeirra ef þau teljast hættuleg, samkvæmt skýrslu…

Sérfræðinganefnd SÞ varar við því að gervigreind sé að vaxa hraðar en geta heimsins til að stýra henni

Vísindanefnd Sameinuðu þjóðanna birti sína fyrstu skýrslu um gervigreind á miðvikudaginn og varaði við því að geta gervigreindar sé að vaxa hraðar en vísindalegur skilningur og stjórnvöld geti fylgt eftir, og að engar tryggingar séu fyrir því að tæknin verði…

OpenAI og Anthropic kalla bæði eftir alþjóðlegu eftirliti með gervigreind

Forstjóri OpenAI, Sam Altman, og yfirvísindamaðurinn Jakub Pachocki birtu bloggfærslu á mánudaginn þar sem kallað var eftir stofnun alþjóðlegrar stofnunar til að hafa eftirlit með þróun fremstu gervigreindar, þar með talið getu til að hægja á framförum "þegar þörf krefur"…