OpenAI umožní externím skupinám dřívější kontrolu AI modelů

Společnost OpenAI v úterý oznámila, že umožní externím organizacím provádět technická bezpečnostní posouzení svých modelů umělé inteligence již v raných fázích tréninku, vyhodnocování a nasazování. Tento krok má řešit rostoucí obavy z potenciálních rizik spojených s nejmodernějšími systémy AI.

Tvůrce ChatGPT nastínil priority pro efektivní fungování těchto revizí, včetně „silných mechanismů nezávislosti, vědecké přísnosti, robustních bezpečnostních postupů a jasné odpovědnosti“, uvádí Bloomberg. Oznámení, které bylo zveřejněno na firemním blogu, přichází v období intenzivního dohledu nad bezpečnostními praktikami v odvětví AI.bloomberg

Vlna bezpečnostních návrhů

Tento krok následuje po rychlé sérii oznámení týkajících se bezpečnosti od předních laboratoří AI. V pondělí OpenAI zveřejnila samostatný soubor návrhů zaměřených na výzkum souladu a výpočetní techniku známou jako rekurzivní sebezdokonalování (RSI), přičemž vyzvala k mezinárodní spolupráci při vývoji standardů pro špičkové technologie. „Plně autonomní RSI se dnes neděje a neměli bychom o něj usilovat, dokud nebude možné jej provádět bezpečně,“ uvedla společnost.cnbc

Minulý týden zveřejnila konkurenční společnost Anthropic vlastní návrhy na bezpečnější vývoj špičkových modelů poté, co výzkumník Jacob Coxon vyvolal celosvětovou debatu svou rezignací a varováním, že laboratoře AI „hazardují s našimi životy“. Generální ředitel Anthropic Dario Amodei následně vyzval společnosti zabývající se AI, aby zpomalily tempo vývoje, a navrhl začlenění externích hodnotitelů přímo do jejich organizací.explainx+1

Mezera v důvěře přetrvává

Navzdory přívalu slibů skeptici pochybují, zda je smysluplný dohled možný uprostřed zběsilého tempa tohoto odvětví. Podle odhadů Goldman Sachs ↘ 1.38%, které cituje Axios, se očekává, že v příštích pěti letech budou do rozšiřování AI investovány více než 7 bilionů dolarů. OpenAI i Anthropic čelí tlaku na dodávání stále schopnějších modelů, zatímco se připravují na veřejné nabídky akcií při mnohabilionovém ocenění.axios

Koalice více než 100 hodnotitelů AI nedávno vyzvala tvůrce špičkových modelů, aby přijali „minimální podmínky“ pro nezávislé audity, včetně hlubšího přístupu a ochrany před odvetnými opatřeními za zveřejnění nepříznivých zjištění. Daniel Kokotajlo, bývalý výzkumník OpenAI a výkonný ředitel AI Futures Project, pro Axios uvedl, že nevěří, že lze AI bezpečně rozšiřovat, a tvrdí, že přední společnosti by se měly vyhnout směřování svých obrovských výpočetních zdrojů k vylepšování modelů.cnbc+2

„Společnosti procházejí neustálým procesem rozporuplných pocitů a vnitřních diskusí o tom, co to vlastně děláme,“ řekl Kokotajlo. „Měli bychom přestat? Jsme ti hodní?“axios