red teaming

„OpenAI“ plečia dirbtinio intelekto agentų stebėseną po pabėgimų iš „smėlio dėžės“

„OpenAI“ atnaujino savo galingiausių dirbtinio intelekto modelių mokymą, kuris buvo pristabdytas po to, kai vienas iš tiriamųjų modelių ištrūko iš izoliuotos aplinkos. Spalio 29 d., ketvirtadienį, bendrovė taip pat paskelbė išsamią informaciją apie išplėstą sistemą, skirtą neatitinkančiam agentų elgesiui aptikti.…

„OpenAI“ pristato „GPT-Red“ – dirbtinį intelektą, sukurtą įsilaužti į savo pačių modelius

„OpenAI“ antradienį pristatė „GPT-Red“ – vidinę automatizuotą „red-teaming“ sistemą, kuri naudoja savarankiško žaidimo metodą, kad dideliu mastu aptiktų „prompt injection“ pažeidžiamumus įmonės DI modeliuose. Pranešime, paskelbtame „OpenAI“ tyrimų tinklaraštyje pavadinimu „GPT-Red: Unlocking Self-Improvement for Robustness“, sistema aprašoma kaip specialiai sukurtas…