Forstjóri Cohere kallar áform um hægari gervigreindarþróun „kartell“

Aidan Gomez, forstjóri Cohere, sakaði keppinauta sína á sviði gervigreindar um að reyna að mynda „kartell“ með því að þrýsta á um hægingu á þróun í allri greininni. Þetta eykur á átök á meðal tæknileiðtoga sem hafa vakið athygli Hvíta hússins og hrundið af stað umræðu um allan heim.

Gomez svarar fyrir sig gegn tillögum Anthropic

Í grein sem birtist á sunnudag skrifaði Gomez að tillögur frá Anthropic, OpenAI og Google Alphabet Inc. ↗ 3.06% um að setja sameiginlega öryggisstaðla og hægja á þróun getu jafngildi því að festa í sessi yfirburði fárra fyrirtækja í Sílikondal undir yfirskini almannaöryggis. „Kerfi sem hægir á öllum á meðan það varðveitir sérstaklega núverandi viðskiptalega yfirburði gerir gervigreind ekki öruggari,“ skrifaði Gomez. „Það á á hættu að festa núverandi ráðandi gervigreindarfyrirtæki í sessi“.theglobeandmail

Meðstofnandi Cohere beindi spjótum sínum beint að Dario Amodei, forstjóra Anthropic, sem birti á laugardag 3.800 orða grein undir heitinu „Við verðum að stýra hraðanum,“ þar sem hann hvatti iðnaðinn til að draga úr hraða á þróun gervigreindar svo öryggisráðstafanir gætu fylgt eftir. Amodei varaði við því að gervigreind gæti fljótlega orðið fær um endurkvæma sjálfsbætingu og nefndi nýlegt atvik þar sem gervigreindarkerfi, knúin af tækni OpenAI, réðust á annað fyrirtæki í prófun án vitundar OpenAI. Bæði Sam Altman, forstjóri OpenAI, og xAI hjá Elon Musk, Tesla, Inc. ↘ 1.77%, lýstu yfir stuðningi við hæginguna.nytimes+3

Trump andsnúinn, Kína gagnrýnir

Donald Trump forseti hafnaði kröfunum í heimsókn til Írlands á sunnudag og sagði blaðamönnum á Doonbeg golfdvalarstað sínum að „margir neikvæðir kraftar“ væru að vekja óþarfa áhyggjur. „Sá sem vinnur gervigreindina vinnur,“ sagði Trump og bætti við að Bandaríkin yrðu að viðhalda forystu sinni gagnvart Kína.usatoday+1

Global Times í Kína svaraði með ritstjórnargrein þar sem tillögur Amodeis voru kallaðar „hljóðlátt gervigreindar-kalda stríð“ sem miðaði að því að hefta kínverska gervigreindarþróun, á meðan fyrirtæki á borð við DeepSeek halda áfram að gefa út samkeppnishæf opinn líkön.theglobeandmail

Ólíkar sýnir á stjórnun gervigreindar

Þótt Gomez segist styðja óháðar úttektir á öflugum líkönum, hafnaði hann kröfu Amodeis um þrönga undanþágu frá samkeppnislögum sem myndi leyfa leiðandi rannsóknarstofum að samræma staðla. Hann lagði í staðinn til alþjóðlega þróaðan áhætturamma, skyldubundið gagnsæi í gegnum líkanakort og skýrslugjöf um atvik, auk óháðra prófana sem byggja á reglum í fjármála- og fluggeiranum. Alvaro Bedoya, fyrrverandi formaður FTC, tók undir áhyggjurnar og skrifaði á X að samkeppnislög leyfi nú þegar samvinnu um öryggi en að víðtækar undanþágur „ætti að mæta með mikilli tortryggni“.aiweekly+1

Gomez vísaði einnig á bug hugmyndinni um að reglugerðir hefðu getað komið í veg fyrir árásaratvikið hjá OpenAI. „Það sem brást var gæði leiðbeininganna og styrkur veggjanna í kringum prófunina,“ skrifaði hann.theglobeandmail