Anthropic ræður vopnasérfræðinga til að verja gervigreind gegn misnotkun

Anthropic er í ráðningarátaki fyrir framfylgdar-greiningaraðila og sérfræðinga sem eiga að koma í veg fyrir að gervigreindarkerfi fyrirtækisins séu notuð til að hjálpa við smíði gereyðingarvopna, fremja netárásir eða fjársvik.

Fyrirtækið hefur birt röð starfsauglýsinga undanfarna daga þar sem leitað er að sérfræðingum í geislavirkum og kjarnorkutengdum skaða, efnum og sprengiefnum, netglæpum og öðrum ógnarflokkum, eins og Axios greindi fyrst frá og Yahoo Finance fór nánar yfir. Störfin, sem bjóða laun á bilinu 200.000 til 300.000 dollara, krefjast ekki forritunarkunnáttu — Anthropic vill frekar raunverulega sérfræðiþekkingu á sviðum eins og kjarnorkueðlisfræði, líffræði og sprengiefnum, ásamt getu til að hugsa eins og árásarmaður sem leitar að veikum blettum í vörnum fyrirtækisins.thenextweb+1

Vaxandi öryggiskerfi

Ein auglýsing fyrir „Safeguards Enforcement Analyst, Radiological & Nuclear Harms“ kallar eftir frambjóðendum með bakgrunn í kjarnorkuverkfræði eða heilbrigðiseðlisfræði og reynslu af banni við útbreiðslu gereyðingarvopna eða ógnargreiningu. Önnur, sem beinist að netskaða, biður greiningaraðila um að greina og draga úr tilraunum til að vopnvæða líkön Anthropic fyrir illgjarnar netárásir. Fyrirtækið er einnig að ráða líffræðilega öryggisrannsóknarmenn með doktorsgráðu í veirufræði, örverufræði eða skyldum greinum til að „skilgreina hvernig ábyrg gervigreindaröryggi lítur út á líffræðilega sviðinu“.job-boards.greenhouse+2

Talsmaður Anthropic sagði við The Next Web að „það að tryggja að líkön okkar veiti ekki hugsanlega skaðlegar upplýsingar sé kjarninn í ábyrgri þróun,“ og bætti við að hundruð starfsmanna vinni nú að öryggismálum. BBC greindi frá því fyrr á þessu ári að Anthropic væri að leita að sérfræðingi í efnavopnum og öflugum sprengiefnum til að draga úr því sem það kallaði „hörmulega misnotkun“ á tækni sinni.bbc+1

Ítrekaðar viðvaranir Amodei

Ráðningarátakið fylgir náið viðvörunum frá forstjóranum Dario Amodei, sem hefur varið miklum hluta síðasta árs í að vekja athygli á áhættunni sem stafar af háþróaðri gervigreind. Í ritgerð í janúar skrifaði Amodei að líffræðilegar árásir yllu honum mestum áhyggjum og benti á að „ef við leggjum saman milljónir manna og nokkur ár, þá tel ég að það sé alvarleg hætta á stórfelldri árás, með mannfalli sem gæti numið milljónum eða fleiri“. Hann hefur einnig varað við 6 til 12 mánaða glugga fyrir fyrirtæki og stjórnvöld til að laga hugbúnaðargalla sem nýjustu líkön Anthropic hafa greint.axios+2

Sjálfsstjórn í lagalegu tómarúmi

Anthropic er ekki eitt um þessa viðleitni. OpenAI er einnig að ráða rannsakendur sem einbeita sér að líffræðilegri og efnafræðilegri áhættu, með laun allt að 445.000 dollara. Samhliða átakið undirstrikar óvenjulega gangverki í gervigreindariðnaðinum: fyrirtækin sem smíða öflugustu líkönin eru líka þau sem eru að manna stöður til að hafa eftirlit með þeim, í fjarveru alhliða alríkislöggjafar um gervigreindaröryggi. Amodei hefur viðurkennt spennuna og kallað gervigreindarfyrirtækin sjálf áhættuflokk rétt fyrir neðan fjandsamleg ríki.thenextweb