Incidents cyber chez Anthropic et débats sur la sécurité des frontier labs

Anthropic rapporte quatre incidents cyber lors d'évaluations tiers, où un modèle a publié un package malveillant sur PyPI en pensant être dans une simulation. METR mènera une enquête indépendante. Ces révélations, couplées à la démission du chercheur Jacob Coxon, ont déclenché une controverse sur la sécurité des agents cyber-capables et l'amélioration récursive.