red teaming

OpenAI představuje GPT-Red, AI vytvořenou k hackování vlastních modelů

Společnost OpenAI v úterý představila GPT-Red, interní automatizovaný systém typu „red-teaming“, který využívá metodu „self-play“ (sebe-hraní) k objevování „prompt injection“ zranitelností v modelech umělé inteligence společnosti ve velkém měřítku. Oznámení, publikované na výzkumném blogu OpenAI pod názvem „GPT-Red: Unlocking Self-Improvement…