Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

openai.com.openai.com.openai.com.Dne 18. listopadu společnost OpenAI uvedla, že její programovací agenti nyní dokončí téměř polovinu středně dlouhých výzkumných úkolů bez jakékoli pomoci člověka. Dodala, že zisky jsou nerovnoměrné a že lidé "zůstávají klíčovou součástí výzkumného cyklu AI". Ve své zprávě Research acceleration: The jagged frontier společnost odhadla, že úspěšnost agentů bez zásahu u úkolů vyžadujících dvě až čtyři hodiny lidské práce vzrostla z 23 % v březnu na 46 % v říjnu. U úkolů odhadovaných na čtyři až osm hodin vzrostla míra z 13 % na 35 %.openai.com
OpenAI také obnovila svou výzvu, aby laboratoře AI byly povinny sledovat a veřejně hlásit ukazatele rekurzivního sebezdokonalování, což znamená, že AI zrychluje vývoj budoucí AI. Uvedla, že její vlastní hlášení "by nemělo být chápáno jako záměr usilovat o plné RSI".openai.com
Výsledky se značně lišily podle typu práce. Od 1. srpna do 18. října agenti uspěli bez zásahu v 79 % případů při monitorování tréninkových běhů, 35 % při jejich spouštění a 25 % při psaní kódu pro inference a obslužné zásobníky. Společnost varovala, že výzkumníci mohli změnit úkoly, které agentům v rámci každého časového pásma zadávají, takže rostoucí míra úspěšnosti neodráží pouze vylepšení modelů. Trvání úkolů popisuje odhadované lidské úsilí, nikoli to, jak dlouho agenti běželi.thedefiant.io+1
Používání agentů rychle rostlo. Při ocenění podle ceníkových cen API využil mediánový výzkumník v říjnu přibližně 2 400 USD práce agentů denně, což je o 62 % více než v září, a 90. percentil využil přibližně 23 000 USD, což je nárůst o 105 %. Počet pracovních dnů agentů na výzkumníka, přičemž každých osm hodin používání agenta se počítá jako jeden pracovní den, vzrostl jedenáctinásobně z 0,5 na 5,7. V průzkumu mezi 101 výzkumnými pracovníky mediánový respondent uvedl, že by se vzdal 30 % výpočetního výkonu týmu nebo 40 % počtu zaměstnanců týmu, aby si udržel špičkové programovací agenty po dobu tří měsíců.openai.com
Dotazovaní výzkumníci uvedli, že agenti stále vykazují špatný výzkumný vkus a vytvářejí "AI balast" (AI slop) v pull requestech, které vyžadovaly pečlivý dohled. Jeden z nich popsal pracovní postup takto: "Jdi a udělej jeden. Já ho zkontroluji a provedu úpravy. Pak jdi a udělej zbytek".openai.com
Dokumentované pracovní týdny zaměřené na bezpečnost a sladění vzrostly od ledna do září o 77 %, což je největší absolutní nárůst ze všech výzkumných oblastí. OpenAI spojila toto zrychlení s následky incidentu v Hugging Face v červenci. Výzkumník OpenAI David Holtz na síti X napsal, že výzkumníci "věnují stále více času bezpečnosti a sladění".x.com+1
Tento tlak na zveřejňování navazuje na plán správy OpenAI z června. Tento plán navrhoval federální pravidla vyžadující zprávy o transparentnosti ohledně sledování RSI a požádal americké Centrum pro standardy a inovace v oblasti AI, aby vyvinulo metody pro jeho měření. Samotná zpráva konstatuje, že více kódu a více experimentů "nutně neznamená rychlejší pokrok ve výzkumu".openai.com+1