LRU reste plus difficile à surpasser que ne le suggèrent les papiers sur le KV-cache

L'auteur remet en cause les résultats de plusieurs papiers récents sur l'optimisation du KV-cache pour les LLM, arguant que la politique classique LRU (Least Recently Used) reste une référence robuste, difficile à battre en pratique. Le dépôt propose des expérimentations et une analyse critique des méthodologies utilisées dans ces publications.