OUTILS · Hugging Face
Tencent/Hy3 : un modèle MoE 295B rivalise avec les SOTA à l'échelle du trillion
Tencent publie Hy3, un modèle MoE de 295 milliards de paramètres qui affiche des performances comparables aux modèles de taille trillion.
Tencent dévoile Hy3, un modèle Mixture-of-Experts (MoE) de 295 milliards de paramètres sur Hugging Face. Malgré une taille nettement inférieure aux modèles à l'échelle du trillion, Hy3 revendique des performances comparables aux meilleurs modèles de l'état de l'art. Les poids sont disponibles en open-weights sur la plateforme Hugging Face.