Administration
Pilotage et couts
La page Plateforme consolide tous les appels aux modeles, quel que soit le module qui les a declenches. C est l outil de suivi budgetaire et le premier reflexe de diagnostic.
Les compteurs
En haut de page, la periode selectionnee resume l essentiel : nombre d appels et part en erreur, tokens envoyes, tokens recus, cout estime et nombre d utilisateurs actifs.
Le cout est une estimation
Il repose sur les tarifs publics des fournisseurs, appliques aux tokens reellement consommes. Utilisez-le pour comparer des usages et projeter une depense, pas pour rapprocher une facture.
Les repartitions
- Par source : quel module consomme. Une part dominante pour la synthese du wiki signale souvent une phase d ingestion massive plutot qu un usage courant.
- Par modele : utile apres un changement d affectation, pour verifier que le trafic est bien parti vers le modele voulu.
- Par utilisateur : la repartition de l usage reel entre comptes, y compris l usage anonyme si le chat public est ouvert.
Diagnostiquer les erreurs
Le tableau des dernieres erreurs affiche la date, la source, le modele, l utilisateur et le message renvoye par le fournisseur. Deux familles reviennent regulierement :
- Depassement de quota : le fournisseur a limite le debit. Les sections concernees sont a regenerer, eventuellement en etalant la charge.
- Erreurs de concurrence : plusieurs traitements ont vise la meme ressource au meme moment. Elles se resolvent generalement par une nouvelle tentative.
Notifications
La cloche regroupe les evenements notables : generation terminee, opportunite detectee. Si le serveur d envoi est configure, les evenements critiques partent aussi par email.
Maitriser la depense
- Adaptez le modele a la tache. Resumes et analyses de template n exigent pas le modele le plus puissant ; la generation principale, si.
- Surveillez les budgets de mots. Ils determinent directement le volume produit, donc le cout de chaque generation.
- Reduisez la profondeur d historique du chat si les echanges sont longs : chaque tour renvoie l historique au modele.
- Groupez les crawls. Chaque page aspiree est resumee et indexee, avec le cout correspondant.