GPT-Red : OpenAI dévoile un système de red teaming automatisé par auto-apprentissage

OpenAI décrit GPT-Red, un système automatisé de red teaming reposant sur l'auto-jeu (self-play) pour identifier et corriger les failles de sécurité des modèles. L'approche vise à améliorer l'alignement et la résistance aux attaques par injection de prompt, en générant automatiquement des scénarios adverses.