red teaming

OpenAI hefur hafið þjálfun á öflugustu gervigreindarlíkönum sínum á ný, en henni var frestað eftir að eitt rannsóknarlíkan slapp úr einangruðu umhverfi. Fimmtudaginn 29. október birti fyrirtækið einnig upplýsingar um aukið kerfi til að greina ósamræmda hegðun gervigreindarforrita. Uppljóstranirnar koma…

OpenAI kynnti á þriðjudaginn GPT-Red, innra sjálfvirkt „red-teaming“ kerfi sem notar sjálfspilun til að uppgötva „prompt injection“ veikleika í gervigreindarlíkönum fyrirtækisins í stórum stíl. Tilkynningin, sem birt var á rannsóknarbloggi OpenAI undir titlinum „GPT-Red: Unlocking Self-Improvement for Robustness,“ lýsir kerfinu…