Sobriété et modèles adaptés au Web
Choisir une architecture proportionnée à la tâche et aux appareils.
Un problème avant un modèle
Toutes les fonctions ne nécessitent pas un grand modèle génératif. Recherche classique, règles explicites et modèles spécialisés peuvent résoudre de nombreux besoins avec une complexité et un coût plus faibles.
Mesures comparables
Comparez qualité, temps de réponse, énergie, bande passante, taille du modèle et coûts réels. Le simple nombre de paramètres ne résume ni l’empreinte d’un service ni ses performances sur tous les appareils.
Choix local, hybride ou distant
Une architecture locale peut réduire certaines transmissions mais exiger des téléchargements importants et un matériel performant. Une architecture distante peut centraliser les mises à jour, au prix de transferts et d’exigences de confidentialité supplémentaires.
Expérimentation honnête
Mesurez une tâche définie sur des scénarios réalistes et plusieurs appareils. Publiez l’échantillon, les versions et les échecs plutôt que de choisir uniquement les résultats favorables.
Choisir l’approche la plus légère qui résout le problème
Pour une tâche de tri, des règles ou un modèle spécialisé peuvent suffire là où un grand modèle génératif introduirait complexité et coûts. Comparez aussi la taille des téléchargements, la mémoire, le temps de réponse et les réseaux utilisés. Une solution locale réduit certains transferts mais peut imposer des contraintes matérielles fortes aux appareils des utilisateurs.
Exercice : comparer trois architectures
Définissez une classification simple de documents et testez une règle, un petit modèle local et un service distant lorsque son usage est autorisé. Mesurez la qualité sur les mêmes exemples, la latence, la transmission de données et les contraintes de déploiement. Publiez des résultats contextualisés sans extrapoler un bilan environnemental complet à partir de la seule durée d’un appel.
Les grandes étapes
- 01Définir l’objectif
- 02Comparer des solutions simples
- 03Mesurer sur plusieurs appareils
- 04Publier les compromis
Trois questions à poser
Un modèle génératif est-il nécessaire pour cette tâche ?
La qualité et les ressources sont-elles toutes deux mesurées ?
Le repli reste-t-il accessible ?
Consulter les textes originaux
Les versions, conditions de réutilisation et statuts des documents peuvent évoluer. Vérifiez-les sur les sites d’origine.