red teaming

OpenAI kynnti á þriðjudaginn GPT-Red, innra sjálfvirkt „red-teaming“ kerfi sem notar sjálfspilun til að uppgötva „prompt injection“ veikleika í gervigreindarlíkönum fyrirtækisins í stórum stíl. Tilkynningin, sem birt var á rannsóknarbloggi OpenAI undir titlinum „GPT-Red: Unlocking Self-Improvement for Robustness,“ lýsir kerfinu…