Dépannage

North Mini Code a été évalué avec temperature=1.0 et top_p=0.95. Si vos sorties paraissent inhabituellement plates ou instables, commencez par aligner vos réglages de génération avec ces recommandations.

Vérifiez que :

• les outils sont définis avec JSON Schema
• le chat est rendu via le modèle de chat du modèle
• les sorties d’outils sont réinjectées dans la conversation
• le contenu de raisonnement intercalé n’est pas supprimé entre les étapes

La fiche Hugging Face indique d’utiliser vLLM main et d’installer cohere_melody>=0.9.0 pour une analyse correcte des appels d’outils et du raisonnement.

La fiche du modèle note que la prise en charge de North Mini Code dépend d’un build Transformers qui inclut les changements nécessaires. Mettez à jour vers une version plus récente ou installez depuis la source si votre version installée est trop ancienne.

Passez à /fr/deployment/quantized-local-apps et choisissez un chemin GGUF, AWQ, FP8 ou MLX mieux adapté à votre matériel.