- Déploiement
- Docker Model Runner
Déploiement
Docker Model Runner
Utilisez le chemin Docker Model Runner en une ligne de Hugging Face pour le démarrage local container-first le plus rapide.
C’est actuellement la surface de déploiement local la plus petite affichée dans le panneau Hugging Face “Use this model”.
docker model run hf.co/CohereLabs/North-Mini-Code-1.0
Pourquoi utiliser ce chemin
Bon choix pour une évaluation locale rapide quand vous voulez le moins d’éléments possible entre le Hub et un modèle en cours d’exécution.
Quand l'éviter
Si vous avez besoin d’analyseurs explicites d’appels d’outils, de contrôles de raisonnement intercalé ou d’un serveur compatible OpenAI très configurable, utilisez plutôt /fr/deployment/vllm.
Le panneau de déploiement Hugging Face fournit la commande de lancement en une ligne, mais beaucoup moins de détails spécifiques à North que le chemin vLLM. Traitez Docker Model Runner comme une option axée sur la vitesse plutôt que comme la plus personnalisable.