Un interrupteur pour désactiver les connaissances à double usage dans les modèles d'IA

Anthropic présente une approche de type « off switch » pour neutraliser les connaissances à double usage encodées dans les modèles d'IA, notamment celles pouvant faciliter la création d'armes ou de contenus dangereux. La méthode vise à effacer ou inhiber ces connaissances spécifiques de manière ciblée, tout en préservant les performances globales du modèle. Ces travaux s'inscrivent dans le champ de la safety et de l'alignement, avec des implications directes pour le déploiement responsable des LLM.