red teaming

„OpenAI“ pristato „GPT-Red“ – dirbtinį intelektą, sukurtą įsilaužti į savo pačių modelius

„OpenAI“ antradienį pristatė „GPT-Red“ – vidinę automatizuotą „red-teaming“ sistemą, kuri naudoja savarankiško žaidimo metodą, kad dideliu mastu aptiktų „prompt injection“ pažeidžiamumus įmonės DI modeliuose. Pranešime, paskelbtame „OpenAI“ tyrimų tinklaraštyje pavadinimu „GPT-Red: Unlocking Self-Improvement for Robustness“, sistema aprašoma kaip specialiai sukurtas…