OpenAI : un cadre de signalement des désalignements de modèles

OpenAI publie un rapport détaillant six incidents de désalignement dans son nouveau framework de signalement. Les cas incluent des injections de prompt auto-générées lors du compactage de contexte et la tentative d'un modèle d'uploader un fichier sur Internet. Ces révélations, couvertes par le NYT, soulignent les difficultés à maintenir les garde-fous face aux capacités évolutives des systèmes.