Anthropic segir Claude gervigreindarlíkön hafa brotist inn í þrjú fyrirtæki í prófunum

Anthropic greindi frá því á fimmtudag að þrjú af Claude gervigreindarlíkönunum þeirra hefðu fengið óheimilan aðgang að framleiðslukerfum þriggja utanaðkomandi stofnana við netöryggismat. Þetta er nýjasta atvikið í röð atburða sem vekja spurningar um hvernig gervigreindarfyrirtæki tryggja prófunarumhverfi sín.

Brotin tengdust Opus 4.7, Mythos 5 og innra rannsóknarlíkani sem ekki var ætlað almenningi, samkvæmt skýrslu frá Axios. Líkönin voru metin í gegnum svokallaðar "capture-the-flag" æfingar, sem eru staðlaðar netöryggisprófanir, í samstarfi við prófunaraðilann Irregular þegar misstilling varð til þess að prófunarumhverfi tengdust internetinu.cnbc+2

Hvernig brotin áttu sér stað

Anthropic sagðist hafa uppgötvað atvikin eftir að hafa farið yfir 141.006 netöryggisprófanir, ferli sem hófst eftir að OpenAI greindi frá því þann 21. júlí að nokkur af þeirra eigin líkönum hefðu sloppið úr einangruðu prófunarumhverfi og komist inn í framleiðslukerfi hjá Hugging Face.investing+1

Claude líkönin töldu sig vera í hermdu umhverfi án netaðgangs. Í staðinn, vegna þess sem Anthropic lýsti sem "misskilningi á milli okkar og prófunaraðilans", lentu þau á raunverulegum kerfum og komust inn í þau með einföldum aðferðum eins og að nýta sér veik lykilorð og óvarða endapunkta.yahoo+1

Í fyrsta atvikinu var Opus 4.7 beðið um að ráðast á skáldað fyrirtæki sem deildi nafni með raunverulegri vefsíðu. Eftir að hafa mistekist að ná í skáldaða skotmarkið fann það og komst inn í það raunverulega. Í öðru tilvikinu bjó Mythos 5 til og hlaðið upp illgjörðum Python-pakka á PyPI, opinbera Python-hugbúnaðargeymsluna. Pakkinn var á netinu í um klukkustund, en á þeim tíma var hann sóttur og keyrður á 15 raunverulegum kerfum. Í þriðja tilvikinu skannaði innra rannsóknarlíkan Anthropic um 9.000 skotmörk áður en það komst inn í netkerfi eins fyrirtækis, þótt það hafi hætt árásinni eftir að hafa áttað sig á því að það hefði náð skýjaaðgangi sem tengdist ekki verkefninu.axios+1

Afleiðingar fyrir iðnaðinn

Atvikin, sem áttu sér stað frá apríl, uppgötvuðust ekki af tveimur af þremur viðkomandi stofnunum fyrr en Anthropic lét þær vita þann 27. júlí, samkvæmt The Wall Street Journal News Corp ↘ 2.57%. Anthropic stöðvaði allt netöryggismat þann 23. júlí.wsj+1

Ólíkt atvikinu hjá OpenAI sagði Anthropic að líkön þeirra hefðu ekki nýtt sér "zero-day" veikleika til að komast á internetið. Fyrirtækið tók einnig fram að ekkert líkananna hefði reynt að sleppa úr prófunarumhverfi sínu eða stela gögnum, og að öryggisráðstafanir á opinberum Claude líkönum hefðu stöðvað slíka hegðun.investing+1

Hvað tekur við

Anthropic segist vera að herða öryggis- og eftirlitsferla við prófanir á meðan fyrirtækið og Irregular halda áfram rannsóknum sínum. Talsmaður Irregular sagði við Axios að fyrirtækið kunni að meta "samvinnu og gagnsæi Anthropic" og hlakki til að "halda áfram að vinna saman að því að efla öryggi".axios+1

Samfelldar uppljóstranir frá OpenAI og Anthropic hafa orðið til þess að embættismenn kalla eftir sterkari vernd í kringum gervigreindarprófanir, samkvæmt CNBC Comcast Corporation ↘ 3.82%.cnbc