OUTILS · OpenAI
Amélioration du cache de prompts pour GPT-6
OpenAI optimise le prompt caching de GPT-6 : taux de hits accru, diagnostics inédits, points d'arrêt explicites et contrôles avancés pour réduire latence et coûts.
OpenAI annonce des améliorations substantielles du prompt caching pour GPT-6. Le système offre désormais des taux de hits plus élevés, de nouveaux outils de diagnostic et des points d'arrêt explicites. Ces contrôles permettent aux développeurs de réduire significativement la latence et les coûts d'inférence.