Fiche pédagogique — Maîtriser les coûts de l’IA dans Dust

Formation Dust - usage des crédits V4.png

1. Comprendre le coût d’une requête

Les modèles d’IA consomment des tokens, c’est-à-dire des unités de texte utilisées pour traiter :

votre demande ;
les documents transmis au modèle ;
l’historique de la conversation ;
la réponse générée.

Plus une tâche est longue, complexe ou répétée, plus sa consommation peut augmenter. Une tâche qui utilise davantage de tokens n’est pas nécessairement plus précise.

2. Choisir le bon modèle

Formation Dust - usage des crédits V5.png

Le modèle le plus puissant n’est pas toujours le plus pertinent.

Besoin	Choix recommandé
Question simple, reformulation, résumé court	Modèle standard ou rapide
Analyse de documents et production structurée	Modèle intermédiaire
Raisonnement complexe, stratégie, architecture	Modèle avancé

Bonne pratique : commencez par le modèle le plus simple capable de répondre correctement au besoin. Réservez les modèles avancés aux tâches qui le justifient réellement.

3. Réduire la consommation inutile

Pour limiter les coûts et améliorer la qualité :

formulez une consigne claire dès le départ ;
donnez uniquement le contexte nécessaire ;
structurez les documents utilisés par l’agent ;
évitez de répéter plusieurs fois la même information ;
demandez un format de sortie précis ;