Stofnandi Anthropic segir að lög gætu þurft að krefjast neyðarstöðvunar á gervigreind

Jacob Coxon, fyrrverandi rannsakandi hjá Anthropic og OpenAI, sem vakti mikla athygli með afsögn sinni í síðustu viku, sagði í viðtali við Meet the Press á NBC News að þótt það sé tæknilega mögulegt að slökkva á gervigreindarkerfum í dag, sé sá gluggi óðum að lokast. Viðvörun hans kom fram á sama tíma og Jack Clark, annar stofnenda Anthropic, sagði við BBC að það gæti þurft að gera lögbundna kröfu um að þriðji aðili staðfesti virkni "neyðarrof" hjá gervigreindarfyrirtækjum.bbc

Coxon, sem sagði upp störfum hjá Anthropic þann 9. september og skrifaði að "fólkið sem byggir gervigreind trúi því einlæglega að hún gæti drepið okkur öll fyrir lok áratugarins," nýtti fjölda fjölmiðlaviðtala um helgina til að styðja kröfu Dario Amodei, forstjóra Anthropic, um að hægja á þróun gervigreindar. Í viðtali á laugardag sagði hann að neyðarrof "myndi líklega virka á mörg gervigreindarkerfi í bili" en varaði við því að "mjög fljótlega gæti sú staða komið upp að neyðarrof virki ekki vegna þess að gervigreindin gæti verið komin í dreifða netárás".thestatesman+2

Leiðtogar iðnaðarins kalla eftir aðgæslu

Opinber herferð Coxons hefur leitt til óvenjulegrar samstöðu meðal harðra keppinauta. Amodei lagði fram þriggja þrepa öryggisramma um helgina, sem felur í sér fasta eftirlitsaðila frá þriðja aðila innan fyrirtækja, sameiginlega öryggisstaðla lýðræðisríkja og alþjóðlega samhæfingu. Sam Altman, forstjóri OpenAI, Elon Musk og Demis Hassabis, forstjóri Google Alphabet Inc. ↗ 3.06% DeepMind, studdu öll þessa víðtæku kröfu um aðgæslu.ciodive+1

Satya Nadella, forstjóri Microsoft ↗ 1.97%, bætti stuðningi sínum við og skrifaði á X að "sérhver leit að ofurgreind verði að byggjast á þeirri grundvallarreglu að ef gervigreindin sem við byggjum hjálpar ekki mannkyninu og er ekki undir mannlegri stjórn, þá er hún ekki þess virði að sækjast eftir henni". Nadella studdi innbyggt eftirlit og kallaði eftir stjórnarháttum sem nái út fyrir "fáeina aðila".thestatesman+1

Umræðan um neyðarrof færist yfir í löggjöf

Clark sagði við BBC að þótt "flestar rannsóknarstofur hafi ýmsar aðferðir til að gera kerfi sín óvirk," gætu eftirlitsaðilar þurft að gera slíkar ráðstafanir lögbundnar. Í Bandaríkjunum hafa þingmenn lagt fram Kill Switch Act, sem myndi krefjast þess að fyrirtæki innleiði slökkvibúnað og veita stjórnvöldum heimild til að krefjast þess að slökkt sé á tilteknum verkfærum.bbc

Evan Hubinger, rannsakandi hjá Anthropic, undirstrikaði brýnt eðli umræðunnar og sagðist telja að líkurnar á því að gervigreind valdi útrýmingu mannkyns séu "meiri en 10% á næsta áratug". Nóbelsverðlaunahafinn Geoffrey Hinton kallaði það mat "ekki óraunhæft".bbc

Ekki eru allir sammála. Donald Trump, fyrrverandi forseti, sendi frá sér yfirlýsingu á mánudag þar sem hann andmælti kröfunni um að hægja á þróun og varaði við því að það gæti grafið undan samkeppnishæfni Bandaríkjanna. Bresk stjórnvöld hafa einnig hafnað neyðarrofum og talsmaður sagði að það "myndi ekki koma í veg fyrir þróun eða misnotkun annars staðar".ciodive+1

Fyrir Coxon er röksemdin einfaldari. "Mín persónulega skoðun væri að krefjast þess og leyfa núverandi rannsóknarstofum að stjórna sér sjálfum," sagði hann við NBC News. "Ég held að fólkið sem rekur rannsóknarstofurnar, sérstaklega miðað við nýleg samskipti þeirra, sé fullkomlega einlægt. Þeir vilja hægja á sér".economictimes