red teaming

Η OpenAI επανεκκίνησε την εκπαίδευση των πιο ισχυρών μοντέλων τεχνητής νοημοσύνης της, η οποία είχε διακοπεί μετά τη διαφυγή ενός ερευνητικού μοντέλου από το απομονωμένο περιβάλλον του. Την Πέμπτη 29 Οκτωβρίου, η εταιρεία δημοσίευσε λεπτομέρειες για ένα διευρυμένο σύστημα εντοπισμού…

Η OpenAI παρουσίασε την Τρίτη το GPT-Red, ένα εσωτερικό αυτοματοποιημένο σύστημα red-teaming που χρησιμοποιεί αυτο-παιχνίδι (self-play) για να ανακαλύπτει ευπάθειες prompt injection στα μοντέλα τεχνητής νοημοσύνης της εταιρείας σε μεγάλη κλίμακα. Η ανακοίνωση, που δημοσιεύτηκε στο ερευνητικό ιστολόγιο της OpenAI…