Anthropic ansetter våpeneksperter for å beskytte AI mot misbruk

Anthropic er i gang med en ansettelsesrunde for håndhevingsanalytikere og fageksperter med oppgave å forhindre at deres AI-systemer blir brukt til å hjelpe med å bygge masseødeleggelsesvåpen, utføre cyberangrep eller begå økonomisk svindel.

Selskapet har lagt ut en rekke stillingsannonser de siste dagene der de søker spesialister innen radiologiske og kjernefysiske skader, kjemikalier og eksplosiver, nettkriminalitet og andre trusler, som først rapportert av Axios og detaljert av Yahoo Finance. Rollene, som tilbyr lønninger i det midtre til øvre sjiktet av 200 000 dollar, krever ikke kodeferdigheter – Anthropic ønsker i stedet praktisk ekspertise innen felt som kjernefysikk, biologi og eksplosiver, sammen med evnen til å tenke som en angriper som leter etter svake punkter i selskapets forsvar.thenextweb+1

Et voksende sikkerhetsapparat

En utlysning for en "Safeguards Enforcement Analyst, Radiological & Nuclear Harms" etterlyser kandidater med bakgrunn innen kjernefysisk ingeniørvitenskap eller helsefysikk og erfaring med ikke-spredning av masseødeleggelsesvåpen eller trusseletterretning. En annen, fokusert på cybertrusler, ber analytikere om å oppdage og begrense forsøk på å bruke Anthropics modeller til ondsinnede cyberoperasjoner. Selskapet ansetter også forskere innen biologisk sikkerhet med doktorgrad i virologi, mikrobiologi eller relaterte felt for å "definere hvordan ansvarlig AI-sikkerhet ser ut på det biologiske domenet".job-boards.greenhouse+2

En talsperson for Anthropic fortalte The Next Web at "å sikre at modellene våre ikke gir potensielt skadelig informasjon er sentralt for ansvarlig utvikling," og la til at hundrevis av ansatte nå jobber med sikkerhet. BBC rapporterte tidligere i år at Anthropic søkte etter en ekspert på kjemiske våpen og høyeksplosiver for å begrense det de kalte "katastrofalt misbruk" av teknologien deres.bbc+1

Amodeis gjentatte advarsler

Ansettelsesbølgen følger tett på advarsler fra administrerende direktør Dario Amodei, som har brukt store deler av det siste året på å slå alarm om risikoen ved avansert AI. I et essay i januar skrev Amodei at biologiske angrep bekymret ham mest, og bemerket at "lagt sammen over millioner av mennesker og noen få år, tror jeg det er en alvorlig risiko for et større angrep, med potensielt millioner av dødsfall eller mer". Han har også advart om et vindu på seks til 12 måneder for selskaper og myndigheter til å tette programvaresårbarheter som Anthropics nyeste modeller har identifisert.axios+2

Selvregulering i et lovgivningsmessig vakuum

Anthropic er ikke alene om dette arbeidet. OpenAI ansetter også forskere med fokus på biologisk og kjemisk risiko, med lønninger på opptil 445 000 dollar. Den parallelle innsatsen understreker en uvanlig dynamikk i AI-bransjen: selskapene som bygger de kraftigste modellene er også de som ansetter folk for å overvåke dem, i fravær av omfattende føderal lovgivning for AI-sikkerhet. Amodei har anerkjent spenningen og kalt AI-selskapene selv for et risikonivå rett under fiendtlige stater.thenextweb