Laboratoře AI se snaží zabránit zneužití modelů k vývoji biologických zbraní

Přední společnosti v oblasti umělé inteligence zintenzivňují úsilí, aby zabránily zneužití svých nejpokročilejších modelů k návrhu nových virů nebo biologických zbraní, protože vedoucí pracovníci a odborníci na biologickou bezpečnost varují, že jediné selhání by mohlo mít katastrofální následky.

OpenAI, Anthropic a Google DeepMind Alphabet Inc. ↘ 1.11% rozšiřují testování biologických rizik a kontrolu přístupu, protože jejich modely jsou ve vědeckých oblastech stále schopnější, uvedl v úterý deník Financial Times. Obavy nepramení z toho, že by současní veřejní chatboti dokázali na požádání vyrobit biologické zbraně, ale z toho, že vědecké modely příští generace by mohly snížit bariéru pro lidi se škodlivými úmysly.techbooky+1

Model příliš schopný pro otevřený přístup

Tento problém již vynutil konkrétní rozhodnutí o produktech. U modelu Claude Fable 5 od společnosti Anthropic, vydaného v červnu, bylo při interním testování zjištěno, že nabízí potenciálnímu výrobci biologických zbraní "významnou výhodu" – schopnosti, "které by nikde jinde nenašli," uvedla společnost. V reakci na to Anthropic vytvořila klasifikační systém, který přesměrovává citlivé biologické dotazy z Fable 5 na Opus 5, starší a méně schopný model.thenextweb+1

Při uvedení na trh byly bezpečnostní pojistky tak agresivní, že blokovaly téměř všechny dotazy související s biologií, což vyvolalo rozsáhlou kritiku. V srpnu Anthropic přepsala svá pravidla klasifikace s přispěním odborníků, čímž snížila počet falešně pozitivních výsledků souvisejících s biologií o zhruba 85 procent. Oblasti s dvojím užitím, včetně virologie, toxikologie a molekulárního designu, však zůstávají omezeny a Fable 5 pro tyto dotazy stále využívá model Opus 5.anthropic+2

Nejvýkonnější model společnosti, Mythos 5, je dostupný pouze prověřeným partnerům prostřednictvím programu Project Glasswing, který omezuje přístup na schválené týmy kybernetické bezpečnosti, vládní organizace a výzkumné instituce.coursiv

Celoodvětvový tlak na bezpečnostní opatření

Zpřísnění kontrol následuje po širší mobilizaci v odvětví. V červnu podepsali ředitelé společností Anthropic, OpenAI a Microsoft ↘ 2.04% AI společný dopis, v němž vyzvali Kongres, aby nařídil prověřování objednávek syntetické DNA a RNA, které by mohly být zneužity k vytvoření biologických zbraní s pomocí AI. Zpráva o bezpečnosti v odvětví z roku 2026 zjistila, že několik laboratoří AI zavedlo omezení poté, co nebyly schopny vyloučit, že by jejich modely mohly pomoci laikům vyvinout chemické nebo biologické zbraně.fortune+2

Společnost RAND Corporation v srpnu nastínila vrstvenou obrannou strategii a dospěla k závěru, že žádné jednotlivé bezpečnostní opatření nemůže zabránit biologickým útokům s pomocí AI, ale že devět intervencí dohromady by mohlo riziko smysluplně snížit. Dvoustranná komise pro biologickou obranu při Atlantic Council poprvé označila AI za oficiální technologickou prioritu.rand+1

Dilema dvojího užití

Výzvou pro regulátory i společnosti je, že biologie má ze své podstaty dvojí užití. Stejné systémy AI, které urychlují objevování léků a výzkum proteinů, mohou také usnadnit shromažďování nebezpečných znalostí. Jak řekl jeden odborník na biologickou bezpečnost deníku Financial Times: "Stačí jedno selhání" – varování, které odvětví zjevně bere vážně, i když se potýká s vyvážením otevřenosti a bezpečnosti.ft+1