Gzip peut-il faire office de modèle de langage ?

L'auteur revisite l'approche consistant à utiliser des algorithmes de compression comme gzip pour effectuer de la classification ou de la génération de texte, en s'appuyant sur le lien théorique entre compression et prédiction statistique. Le billet examine les performances et les limites de cette méthode face aux LLM classiques.