Dataiku lance une solution dédiée au contrôle des coûts de l’utilisation des LLM, LLM Cost Guard qui s’ajoute à sa solution Dataiku LLM Mesh.
La solution permet de tracer et de suivre l’usage des LLM afin d’anticiper et contrôler les coûts de l’intelligence artificielle générative. Le logiciel apporte de la visibilité sur les coûts attribués à des applications, des utilisateurs… et ce quel que soit le LLM choisi. Il est possible d’affecter les coûts à des projets spécifiques et de distinguer les dépenses de production et de développement. En cas de dépassement de coûts la solution déclenche des alertes à partir des niveaux de dépenses fixés par l’administrateur. De plus des tableaux de bords sont disponibles.