OpenAI-ansatte varslet om sikkerhetssvikt i årevis

Ifølge en rapport fra Reuters publisert 3. november, har ansatte i OpenAI reist bekymringer om selskapets interne sikkerhet siden før ChatGPT ble lansert sent i 2022. Reuters siterer fem personer med kjennskap til saken. Noen av disse ansatte tok bekymringene sine direkte til toppledelsen og styret. Flere satt igjen med inntrykket av at ledelsen prioriterte å holde tritt med Google og Anthropic fremfor å beskytte selskapets teknologi. Da OpenAI i oktober avslørte at de hadde funnet en avlyttingsenhet plassert i et styrerom, uttalte flere tidligere ansatte at de ikke var overrasket.rmb.reuters.com

Rapporten øker presset på både OpenAI og Anthropic. Begge selskapene er under økende granskning for hvordan de beskytter teknologi som amerikanske myndigheter nå betrakter som en strategisk ressurs. Økte sikkerhetstiltak kan også bremse forskning og komplisere planene om store børsnoteringer for begge selskaper, melder Reuters.ca.finance.yahoo.com

Åpen kildekode og utestede verktøy

Kildene fortalte Reuters at OpenAI oppbevarte det meste av koden sin i et felles depot, et såkalt monorepo. Dette innebar at alle med tilgang kunne se detaljer om sensitive prosjekter som ikke var relevante for deres eget arbeid. Tre personer opplyste også at interne verktøy, inkludert sandkasser brukt til stresstesting av modeller, ikke gjennomgikk regelmessige sikkerhetsvurderinger. OpenAI svarte at deres mest sensitive arbeid ligger i separate depoter med strenge tilgangskontroller. De hevder at monorepoet ikke inneholder modellvekter, og at de nå gjennomgår interne verktøy regelmessig.ca.finance.yahoo.com

Thibault Sottiaux, en leder innen produktutvikling, har tatt ansvar for arbeidet med å sikre interne systemer. I august flyttet han en fjerdedel av OpenAIs produksjonsingeniører over til sikkerhetsinfrastruktur, ifølge en kilde. Talsperson Elana Widmann kalte OpenAI for "en av de mest målrettede organisasjonene i verden". Hun sa at nylige handlinger viser at sikkerhetsprogrammet deres "identifiserer risiko og reagerer resolutt". Etter at Reuters ba om en kommentar, kunngjorde OpenAI i et blogginnlegg 2. november at de planlegger sin "neste interne sikkerhetssprint".

Avlyttingssaken og eksterne innbrudd

Den 13. oktober opplyste det amerikanske justisdepartementet at føderale agenter hadde arrestert Abdulrahman Alfozan, en 35 år gammel saudiarabisk statsborger og ingeniør i OpenAI. Han er siktet for å ha skjult en lydopptaker, pakket inn i toalettpapir, i et styrerom. Påtalemyndigheten hevder han brukte et internt KI-verktøy for å slå opp lederes reiseplaner til Saudi-Arabia. En dommer har siden besluttet at han skal holdes varetektsfengslet uten kausjon, meldte Ground News.ground.news+1

Separat opplyste forskere hos Hacktron AI at de i juli brukte Anthropics Claude for å koble sammen to kritiske sårbarheter. Dette lot dem ta kontroll over flere OpenAI-ansattes ChatGPT-kontoer og få tilgang til interne depoter. OpenAI bekreftet rapporten og sa at feilene er rettet.nbcnews.com+1

Anthropic har hatt sine egne problemer. Sent i oktober opplyste oppstartsselskapet Cathedral Systems at de hadde brutt seg inn i Anthropics systemer og fått tilgang til Slack-kanaler der ansatte diskuterte sensitive detaljer om modeller. Anthropic opplyste at de eksponerte dataene inkluderte forretningskontakter til kunder og partnere, samt grunnleggende brukerkontoinformasjon.ca.finance.yahoo.com

Hastighet kontra sikkerhet

Will DePue er en tidligere forsker hos OpenAI som sa opp i april. Han oppsummerte spenningen i et innlegg sitert av Reuters: KI-ledere "kan ikke ofre hastighet for sikkerhet. Det er viktigere for dem å bevege seg raskt enn å være sikre, selv mot våre største nasjonale motstandere."