AI-labb i kapplöpning för att stoppa design av biologiska vapen

Stora företag inom artificiell intelligens intensifierar sina ansträngningar för att förhindra att deras mest avancerade modeller används för att designa nya virus eller biologiska vapen, då företagsledare och biosäkerhetsexperter varnar för att ett enda misslyckande kan få katastrofala följder.

OpenAI, Anthropic och Google DeepMind Alphabet Inc. ↗ 0.84% utökar sin testning av biologiska risker och sina åtkomstkontroller i takt med att deras modeller blir alltmer kapabla inom vetenskapliga domäner, rapporterade Financial Times på tisdagen. Oron gäller inte att dagens publika chattbottar kan producera biologiska vapen på begäran, utan att nästa generations vetenskapliga modeller kan sänka tröskeln för personer med skadliga avsikter.techbooky+1

En modell för kapabel för öppen åtkomst

Frågan har redan tvingat fram konkreta produktbeslut. Anthropics Claude Fable 5, som släpptes i juni, visade sig i interna tester erbjuda en potentiell tillverkare av biologiska vapen "betydande fördelar" – förmågor "de inte kunde hitta någon annanstans", uppgav företaget. Som svar byggde Anthropic ett klassificeringssystem som dirigerar känsliga biologifrågor bort från Fable 5 till Opus 5, en äldre och mindre kapabel modell.thenextweb+1

Vid lanseringen var säkerhetsspärrarna så aggressiva att de blockerade nästan alla biologirelaterade frågor, vilket väckte omfattande kritik. I augusti skrev Anthropic om sina klassificeringsregler med expertinput, vilket minskade biologirelaterade falska positiva resultat med cirka 85 procent. Men domäner med dubbla användningsområden, inklusive virologi, toxikologi och molekylär design, förblir begränsade, där Fable 5 fortfarande faller tillbaka på Opus 5 för dessa frågor.anthropic+2

Företagets mest kraftfulla modell, Mythos 5, är endast tillgänglig för granskade partners genom programmet Project Glasswing, som begränsar åtkomsten till godkända cybersäkerhetsteam, myndighetsnära organisationer och forskningsinstitutioner.coursiv

Branschövergripande press för säkerhetsåtgärder

De skärpta kontrollerna följer en bredare mobilisering inom branschen. I juni undertecknade cheferna för Anthropic, OpenAI och Microsoft ↘ 0.24% AI ett gemensamt brev där de uppmanade kongressen att kräva kontroll av beställningar av syntetiskt DNA och RNA, vilka skulle kunna utnyttjas för att skapa biologiska vapen med hjälp av AI. En branschrapport om säkerhet från 2026 fann att flera ledande AI-labb hade lagt till restriktioner efter att inte ha kunnat utesluta att deras modeller skulle kunna hjälpa nybörjare att utveckla kemiska eller biologiska vapen.fortune+2

RAND Corporation skisserade i augusti en strategi för ett lager-på-lager-försvar och drog slutsatsen att ingen enskild säkerhetsåtgärd kan förhindra AI-stödda biologiska attacker, men att nio interventioner tillsammans avsevärt skulle kunna minska risken. Atlantic Councils tvärpolitiska kommission för biosäkerhet har för första gången utsett AI till en formell teknisk prioritet.rand+1

Dilemmat med dubbla användningsområden

Utmaningen för både tillsynsmyndigheter och företag är att biologi i sig har dubbla användningsområden. Samma AI-system som påskyndar läkemedelsutveckling och proteinforskning kan också göra farlig kunskap lättare att sammanställa. Som en biosäkerhetsexpert sa till Financial Times: "Allt som krävs är ett enda misstag" – en varning som branschen verkar ta på allvar, även om den kämpar med att balansera öppenhet med säkerhet.ft+1