Toutes les news taguées avec ce sujet.
Le scientifique en chef de Meta balaie les craintes sur les incidents récents d'IA « rogue » et critique le discours alarmiste de Dario Amodei.
NVIDIA propose une architecture de référence pour surveiller en continu les agents IA directement au niveau matériel.
Une publication provocatrice qualifie le mouvement AI safety de Berkeley de « secte », ravivant les tensions idéologiques au sein de la communauté d'alignement.
Un texte polémique publié sur Bluesky attaque la communauté AI safety, la comparant à une dynamique de secte plutôt qu'à un champ de recherche sérieux.
Une méthode de calibration certifiée pour détecter et rejeter les mises à jour malveillantes proposées par des conseillers IA en informatique quantique.
Un essai appelle à suivre attentivement les progrès des modèles d'IA dans les sciences dures, jugés potentiellement sous-estimés en matière de risques.
Analyse de la propagation soudaine des inquiétudes sur la sécurité de l'IA auprès du grand public.
Les grands laboratoires d'IA sont mal placés pour donner des leçons de sécurité, mais leurs avertissements internes méritent d'être pris au sérieux.
Un billet d'opinion exhorte les développeurs et chercheurs à réorienter leurs carrières vers la sécurité de l'IA, suscitant débat sur HN.