Newsletter Subscribe
Enter your email address below and subscribe to our newsletter
[forminator_form id="25163"]

openai.com.openai.com.openai.com.Den 18. november uttalte OpenAI at deres kodeagenter nå fullfører nesten halvparten av mellomlange forskningsoppgaver uten menneskelig hjelp. De la til at fremgangen er ujevn og at mennesker "forblir en kjernekomponent i AI-forskningssløyfen." I rapporten Research acceleration: The jagged frontier anslår selskapet at agentenes suksessrate uten inngripen på oppgaver som krever to til fire timers menneskelig arbeid, økte fra 23 % i mars til 46 % i oktober. For oppgaver anslått til fire til åtte timer, økte raten fra 13 % til 35 %.openai.com
OpenAI gjentok også kravet om at AI-laboratorier må pålegges å spore og offentlig rapportere indikatorer på rekursiv selvforbedring, det vil si at AI akselererer utviklingen av fremtidig AI. De presiserte at deres egen rapportering "ikke bør tolkes som en intensjon om å forfølge full RSI".openai.com
Resultatene varierte stort avhengig av arbeidstype. Fra 1. august til 18. oktober lyktes agenter uten inngripen 79 % av tiden ved overvåking av treningskjøringer, 35 % ved oppstart av disse, og 25 % ved skriving av kode for inferens og serveringsstakker. Selskapet advarte om at forskere kan ha endret hvilke oppgaver de gir til agenter innenfor hvert tidsintervall, slik at økende suksessrater ikke bare reflekterer modellforbedringer. Oppgavevarighetene beskriver estimert menneskelig innsats, ikke hvor lenge agentene kjørte.thedefiant.io+1
Bruken av agenter økte raskt. Basert på listepriser for API, brukte den gjennomsnittlige forskeren omtrent 2400 dollar på agentarbeid per dag i oktober, en økning på 62 % fra september, mens den 90. persentilen brukte omtrent 23 000 dollar, en økning på 105 %. Antall arbeidsdager for agenter per forsker, der hver åttende time med agentbruk telles som én arbeidsdag, økte elleve ganger fra 0,5 til 5,7. I en undersøkelse blant 101 forskere svarte medianrespondenten at de ville gitt opp 30 % av teamets datakraft, eller 40 % av teamets bemanning, for å beholde avanserte kodeagenter i tre måneder.openai.com
Intervjuede forskere sa at agentene fortsatt viste dårlig forskningsmessig skjønn og produserte "AI-slop"-pull-requests som krevde tett oppfølging. Én beskrev arbeidsflyten slik: "Lag én. Jeg går gjennom den og gjør endringer. Så gjør du resten".openai.com
Dokumentert sikkerhets- og tilpasningsarbeid økte med 77 % fra januar til september, den største absolutte økningen innen noe forskningsområde. OpenAI knyttet akselerasjonen til etterspillet av en Hugging Face-hendelse i juli. OpenAI-forsker David Holtz skrev på X at forskere "bruker mer og mer tid på sikkerhet og tilpasning".x.com+1
Åpenhetsinitiativet bygger videre på OpenAIs styringsplan fra juni. Den planen foreslo føderale regler som krever åpenhetsrapporter om RSI-sporing og ba det amerikanske Center for AI Standards and Innovation om å utvikle metoder for å måle dette. Selve rapporten bemerker at mer kode og flere eksperimenter "ikke nødvendigvis innebærer raskere forskningsfremgang".openai.com+1