OpenAI-anställda varnade för säkerhetsbrister i åratal

Enligt en rapport från Reuters publicerad den 3 november har anställda på OpenAI lyft farhågor om företagets interna säkerhet sedan innan ChatGPT lanserades i slutet av 2022. Reuters citerar fem personer med insyn i ärendet. Vissa av dessa anställda tog upp sina farhågor med högsta ledningen och styrelsen. Flera lämnade mötena med övertygelsen om att ledningen brydde sig mer om att hålla jämna steg med Google och Anthropic än om att skydda företagets teknik. När OpenAI i oktober avslöjade att de hittat en avlyssningsutrustning placerad i ett konferensrum, sade flera tidigare anställda att de inte var förvånade.rmb.reuters.com

Rapporten ökar pressen på både OpenAI och Anthropic. Båda företagen står under växande granskning gällande hur väl de skyddar teknik som amerikanska myndigheter nu betraktar som en strategisk tillgång. Utökade säkerhetsåtgärder kan också sakta ner forskning och komplicera båda företagens planer på stora börsnoteringar, rapporterar Reuters.ca.finance.yahoo.com

Öppen kod och otestade verktyg

Källorna berättade för Reuters att OpenAI förvarade det mesta av sin kod i ett gemensamt arkiv, ett så kallat monorepo. Det innebar att alla som kunde nå det kunde se detaljer om känsliga projekt som inte var relaterade till deras eget arbete. Tre personer sade också att interna verktyg, inklusive de sandlådor som används för att stresstesta modeller, inte genomgick regelbundna säkerhetsgranskningar. OpenAI svarade att deras mest känsliga arbete ligger i separata arkiv med strikta åtkomstkontroller. De uppgav att monorepot inte innehåller modellvikter och att de nu granskar interna verktyg regelbundet.ca.finance.yahoo.com

Thibault Sottiaux, en senior produktchef, har tagit ansvar för arbetet med att säkra interna system. I augusti flyttade han en fjärdedel av OpenAIs produktionsingenjörer till säkerhetsinfrastruktur, enligt en källa. Talespersonen Elana Widmann kallade OpenAI för "en av de mest måltavlorna för attacker i världen". Hon sade att nyligen vidtagna åtgärder visar att deras säkerhetsprogram "identifierar risker och agerar beslutsamt". Efter att Reuters bett om en kommentar meddelade OpenAI i ett blogginlägg den 2 november att de planerar sin "nästa interna säkerhetssprint".

Avlyssningsfallet och externa intrång

Den 13 oktober meddelade det amerikanska justitiedepartementet att federala agenter gripit Abdulrahman Alfozan, en 35-årig saudisk medborgare och ingenjör på OpenAI. Han är åtalad för att ha gömt en ljudinspelningsenhet, inslagen i toalettpapper, i ett konferensrum. Åklagare hävdar att han använde ett internt AI-verktyg för att söka efter chefers resor till Saudiarabien. En domare har sedan dess beordrat att han ska hållas häktad utan borgen, rapporterade Ground News.ground.news+1

Separat uppgav forskare på Hacktron AI att de i juli använde Anthropics Claude för att kedja ihop två kritiska sårbarheter. Det lät dem ta över flera OpenAI-anställdas ChatGPT-konton och nå interna arkiv. OpenAI bekräftade rapporten och sade att bristerna har åtgärdats.nbcnews.com+1

Anthropic har haft sina egna problem. I slutet av oktober uppgav ett startup-företag vid namn Cathedral Systems att de brutit sig in i Anthropics system och fått tillgång till Slack-kanaler där personal diskuterade känsliga detaljer om modeller. Anthropic sade att den exponerade datan inkluderade vissa affärskontakter till kunder och partners samt grundläggande användarkontouppgifter.ca.finance.yahoo.com

Hastighet kontra säkerhet

Will DePue är en tidigare forskare på OpenAI som sade upp sig i april. Han sammanfattade spänningen i ett inlägg som citerades av Reuters: AI-ledare "kan inte offra hastighet för säkerhet. Det är viktigare för dem att röra sig snabbt än att vara säkra, även mot våra största nationella motståndare."