North Mini Code home pagelight logo
  1. Déploiement
  2. Chemins de déploiement

North Mini Code peut être exécuté via la plateforme gérée de Cohere, directement depuis les poids Hugging Face, ou via des chemins de déploiement propres à AWS.

Plateforme Cohere

Accès géré via les APIs Chat de Cohere et Model Vault.

Transformers

Chargement direct en Python pour les premiers essais et les applications personnalisées.

vLLM

Chemin de serveur local le mieux documenté pour le codage agentique.

SGLang

Serveur local compatible OpenAI avec des flux pip et Docker.

Docker Model Runner

Chemin local container-first avec le moins de friction depuis le panneau de déploiement Hugging Face.

Amazon SageMaker

Déploiement AWS géré à partir du snippet de déploiement Hugging Face.

AWS Inferentia & Trainium

Chemin d’accélération AWS basé sur Neuron via Optimum Neuron.

Applications locales quantifiées

Chemins GGUF, FP8, AWQ et MLX pour les applications locales et les empreintes plus petites.

  • Idéal pour une première sortie

  • Idéal pour les agents de codage

  • Idéal pour les équipes AWS

Commencez avec /fr/deployment/transformers ou /fr/deployment/docker-model-runner.

Ce sont les chemins avec le moins de friction si vous voulez surtout valider le modèle, inspecter les générations ou tester des prompts.

L’interface de déploiement Hugging Face affiche actuellement JumpStart et CloudFormation comme options à venir plutôt que comme flux entièrement documentés. Pour l’instant, les chemins AWS concrets dans les sources sont le snippet SageMaker SDK et la documentation plus large Optimum Neuron.

1

Choisissez le chemin qui correspond à votre contrainte

  • démarrage géré le plus rapide : Cohere Platform
  • meilleur chemin Python local : Transformers
  • meilleur serveur local pour agents : vLLM
  • meilleur chemin AWS géré : SageMaker
  • meilleur chemin à empreinte réduite : Applications locales quantifiées
2

Suivez la page propre au runtime

Chaque page de déploiement de cette section garde les commandes, avertissements et liens rapides centrés sur un seul chemin au lieu de tout mélanger.

3

Revenez aux guides une fois le modèle lancé

Après le déploiement, utilisez /fr/guides/agentic-coding et /fr/concepts/model-overview pour adapter votre application au comportement de North Mini Code sur les outils et le contexte.