Anthropic palkkaa aseasiantuntijoita suojaamaan tekoälyä väärinkäytöksiltä

Anthropic on aloittanut rekrytointikampanjan valvonta-analyytikoille ja aihealueen asiantuntijoille, joiden tehtävänä on estää yhtiön tekoälyjärjestelmien käyttö joukkotuhoaseiden rakentamiseen, kyberhyökkäyksiin tai talouspetoksiin.

Yhtiö on viime päivinä julkaissut useita työpaikkailmoituksia, joissa haetaan asiantuntijoita säteily- ja ydinturvallisuuden, kemikaalien ja räjähteiden, kyberrikollisuuden sekä muiden uhkakategorioiden aloilta, kuten Axios ensimmäisenä raportoi ja Yahoo Finance tarkensi. Tehtävissä, joista maksetaan 200 000 – 300 000 dollarin palkkaa, ei vaadita koodaustaitoja – Anthropic haluaa sen sijaan käytännön asiantuntemusta esimerkiksi ydinfysiikan, biologian ja räjähteiden aloilta sekä kykyä ajatella kuin hyökkääjä, joka etsii heikkoja kohtia yhtiön puolustuksesta.thenextweb+1

Kasvava turvallisuuskoneisto

Eräässä "Safeguards Enforcement Analyst, Radiological & Nuclear Harms" -tehtävää koskevassa ilmoituksessa haetaan ehdokkaita, joilla on taustaa ydintekniikasta tai terveysfysiikasta sekä kokemusta joukkotuhoaseiden leviämisen estämisestä tai uhkatiedustelusta. Toisessa, kyberuhkiin keskittyvässä tehtävässä analyytikoita pyydetään havaitsemaan ja lieventämään yrityksiä käyttää Anthropicin malleja haitallisiin kyberoperaatioihin. Yhtiö palkkaa myös bioturvallisuuden tutkijoita, joilla on tohtorintutkinto virologiasta, mikrobiologiasta tai vastaavilta aloilta, "määrittelemään, miltä vastuullinen tekoälyturvallisuus näyttää biologisella alalla".job-boards.greenhouse+2

Anthropicin tiedottaja kertoi The Next Webille, että "varmistaminen, etteivät mallimme tarjoa mahdollisesti haitallista tietoa, on keskeistä vastuulliselle kehitykselle", ja lisäsi, että sadat työntekijät työskentelevät nyt turvallisuuden parissa. BBC raportoi aiemmin tänä vuonna, että Anthropic etsi kemiallisten aseiden ja korkean räjähdysvoiman räjähteiden asiantuntijaa lieventämään sitä, mitä se kutsui teknologiansa "katastrofaaliseksi väärinkäytöksi".bbc+1

Amodein toistuvat varoitukset

Rekrytointiponnistelu seuraa toimitusjohtaja Dario Amodein varoituksia, joka on viettänyt suuren osan kuluneesta vuodesta varoittaen kehittyneen tekoälyn riskeistä. Tammikuussa julkaistussa esseessä Amodei kirjoitti, että biologiset hyökkäykset huolestuttavat häntä eniten, ja totesi: "Kun lasketaan yhteen miljoonia ihmisiä ja muutama vuosi, uskon, että on olemassa vakava riski suuresta hyökkäyksestä, jossa voi olla miljoonia tai enemmän uhreja". Hän on myös varoittanut kuuden–12 kuukauden aikaikkunasta, jonka aikana yritysten ja hallitusten on paikattava ohjelmistohaavoittuvuudet, jotka Anthropicin uusimmat mallit ovat tunnistaneet.axios+2

Itsesääntelyä lainsäädännöllisessä tyhjiössä

Anthropic ei ole yksin tässä pyrkimyksessä. Myös OpenAI palkkaa tutkijoita, jotka keskittyvät biologisiin ja kemiallisiin riskeihin, jopa 445 000 dollarin palkoilla. Rinnakkainen ponnistelu korostaa tekoälyalan epätavallista dynamiikkaa: yritykset, jotka rakentavat tehokkaimpia malleja, ovat myös niitä, jotka palkkaavat henkilöstöä valvomaan niitä, kattavan liittovaltion tekoälyturvallisuuslainsäädännön puuttuessa. Amodei on tunnustanut jännitteen ja kutsunut tekoälyyrityksiä itseään riskitasoksi, joka on juuri vihamielisten valtioiden alapuolella.thenextweb