red teaming

Η OpenAI παρουσίασε την Τρίτη το GPT-Red, ένα εσωτερικό αυτοματοποιημένο σύστημα red-teaming που χρησιμοποιεί αυτο-παιχνίδι (self-play) για να ανακαλύπτει ευπάθειες prompt injection στα μοντέλα τεχνητής νοημοσύνης της εταιρείας σε μεγάλη κλίμακα. Η ανακοίνωση, που δημοσιεύτηκε στο ερευνητικό ιστολόγιο της OpenAI…