Forstjóri Amazon, Jassy, vakti áhyggjur áður en Bandaríkin lokuðu á gervigreindarlíkön Anthropic

Forstjóri Amazon Amazon.com, Inc. ↗ 1.33%, Andy Jassy, átti viðræður í vikunni við fjármálaráðherrann Scott Bessent og aðra háttsetta embættismenn í Trump-stjórninni um öryggisveikleika í fullkomnustu gervigreindarlíkönum Anthropic, samtöl sem fóru beint á undan fordæmalausri útflutningseftirlitstilskipun viðskiptaráðuneytisins sem gefin var út föstudaginn 12. júní, þar sem Anthropic var fyrirskipað að stöðva aðgang að Claude Fable 5 og Mythos 5 kerfum sínum á heimsvísu.

Afhjúpunin, sem The Information greindi fyrst frá og Wall Street Journal staðfesti, afhjúpar sláandi átök: Amazon er samtímis stærsti fjárfestir Anthropic — með yfir 4 milljarða dollara skuldbundna — helsti samstarfsaðili þess í skýjainnviðum í gegnum AWS, og nú fyrirtækið sem hagsmunagæsla þess kom af stað lokun stjórnvalda á helstu vörum Anthropic.theinformation+1

Tilskipunin og afleiðingar hennar

Viðskiptaráðherrann Howard Lutnick sendi Dario Amodei, forstjóra Anthropic, bréf á föstudag þar sem báðum líkönum var komið undir útflutningseftirlit, sem bannaði aðgang fyrir alla erlenda ríkisborgara innan og utan Bandaríkjanna, þar á meðal eigin erlenda starfsmenn Anthropic. Anthropic sagðist hafa móttekið tilskipunina klukkan 17:21 ET og, þar sem fyrirtækið gat ekki staðfest ríkisfang allra notenda með skömmum fyrirvara, gerði það báðar gerðir óvirkar fyrir alla viðskiptavini um allan heim.letsdatascience+3

„Hrein áhrif þessarar skipunar eru þau að við verðum að slökkva skyndilega á Fable 5 og Mythos 5 fyrir alla viðskiptavini okkar til að tryggja samræmi,“ sagði Anthropic. Aðgangur að öðrum líkönum fyrirtækisins er óbreyttur.facebook

Aðgerðin táknar árásargjarnustu ráðstöfun bandarískra stjórnvalda til að takmarka aðgang að gervigreindarlíkani sem er í viðskiptalegri notkun. Embættismaður stjórnvalda sagði við Axios að takmarkanirnar gætu varað „næstu vikur“ á meðan öryggisáhyggjur eru metnar.letsdatascience

Samkeppnissögur

Í miðju deilunnar er meint jailbreak á Fable 5 — sem rannsakendur sögðust hafa sýnt fram á með því að nota líkanið til að draga út upplýsingar sem nýtast við netárásir. Anthropic hefur lýst því sem „hugsanlegu þröngu, ekki alhliða jailbreak“ sem felur í sér áður þekkta veikleika, og heldur því fram að líkanið hafi aðeins verið beðið um að lesa tiltekinn kóðagrunn og bera kennsl á hugbúnaðargalla.techcrunch

David Sacks, fyrrverandi ráðgjafi Hvíta hússins um gervigreind, sagði á laugardag að Amodei hefði hafnað beiðni stjórnvalda um að „laga jailbreak-ið eða taka líkanið úr notkun“ eftir að „mjög trúverðugur traustur samstarfsaðili“ tilkynnti um veikleikann. Anthropic hefur dregið í efa umfang áhyggjunnar, kallað tilskipunina „misskilning“ og sagt að það vonist til að endurheimta aðgang „eins fljótt og auðið er“.wftv+1

Flókinn vefur hagsmuna

Þátturinn undirstrikar ótrúlegar flækjur í gervigreindariðnaðinum. Amazon keppir við Anthropic í gegnum sín eigin Nova-líkön á meðan það þjónar samtímis sem skýjaþjónustuveitandi fyrirtækisins og stærsti bakhjarl. Netöryggissérfræðingurinn Katie Moussouris, sem fór yfir jailbreak-skýrsluna, kallaði viðbrögð stjórnvalda „algjör ofviðbrögð“, á meðan demókratískur þingmaður kallaði tilskipunina „tilraun til fyrirtækjamorðs“.fourweekmba

Fable 5 var hleypt af stokkunum opinberlega 9. júní sem útgáfa af öflugri Mythos 5, sem Anthropic hafði takmarkað frá apríl við skoðaða netöryggisverði vegna getu þess til að bera kennsl á núll-dags veikleika. Víðtækara Mythos-líkanið hafði þegar vakið ótta hjá alríkisyfirvöldum, sem varð til þess að Bessent og Jerome Powell, seðlabankastjóri, vöruðu bankastjóra við áhættu þess í apríl.sullcrom+3