AWS améliore le suivi de SageMaker AI
Amazon a déployé une solution de surveillance via Managed Grafana pour les points de terminaison LLM de SageMaker AI. Cet outil permet de suivre simultanément l'utilisation des ressources matérielles et la qualité des réponses des modèles.
Lire la source →