4 items

#llm-local

Toutes les news taguées avec ce sujet.

Chronologie · 60 derniers jours

OUTILS
heat 45
Ollaya : interface Ollama pour modèles de décision open source
Ollaya propose une approche inspirée d'Ollama pour exécuter localement des modèles de décision de type Jev, intégralement open source.
SAFETY
heat 42
Commissionnement vérifié par exigences : un modèle local gelé de 4B paramètres comme générateur de candidats sous couche de validation externe
Un protocole de validation sépare la génération de candidats de l'autorité de release. Un LLM local de 4B est encadré par une porte logique externe scellée pour garantir la fiabilité des plans en commissionnement mécatronique.
OUTILS
heat 35
ROCmFix et InferBench : configuration LLM local sur AMD et benchmark Vulkan vs HIP
Un outil pour simplifier l'installation de ROCm sous AMD et un benchmark comparant les backends Vulkan et HIP pour l'inférence LLM en local.
OUTILS
heat 45
Un outil permet de faire tourner Qwen3.8 27B sur des GPU Nvidia de 16 Go
Installation en un clic pour exécuter un modèle de 27 milliards de paramètres sur du matériel grand public.

4 items

Toutes les news taguées avec ce sujet.

Chronologie · 60 derniers jours

OUTILS
heat 45
Ollaya : interface Ollama pour modèles de décision open source
Ollaya propose une approche inspirée d'Ollama pour exécuter localement des modèles de décision de type Jev, intégralement open source.
SAFETY
heat 42
Commissionnement vérifié par exigences : un modèle local gelé de 4B paramètres comme générateur de candidats sous couche de validation externe
Un protocole de validation sépare la génération de candidats de l'autorité de release. Un LLM local de 4B est encadré par une porte logique externe scellée pour garantir la fiabilité des plans en commissionnement mécatronique.
OUTILS
heat 35
ROCmFix et InferBench : configuration LLM local sur AMD et benchmark Vulkan vs HIP
Un outil pour simplifier l'installation de ROCm sous AMD et un benchmark comparant les backends Vulkan et HIP pour l'inférence LLM en local.
OUTILS
heat 45
Un outil permet de faire tourner Qwen3.8 27B sur des GPU Nvidia de 16 Go
Installation en un clic pour exécuter un modèle de 27 milliards de paramètres sur du matériel grand public.