Comment puis-je vérifier l'utilisation des ressources pour mon instance de bloc-notes SageMaker AI ?

Résolution

Lorsque les instances de votre navigateur ou de votre bloc-notes SageMaker ne répondent pas, exécutez une commande Amazon Linux ou examinez les métriques Amazon CloudWatch pour visualiser votre allocation de ressources.

Exécutez une commande Linux pour afficher l'utilisation des ressources de SageMaker AI

Procédez comme suit :

1. Ouvrez la console SageMaker AI.
2. Dans le volet de navigation, choisissez Instances de bloc-notes.
3. À côté de votre instance de bloc-notes SageMaker AI, ouvrez Jupyter ou JupyterLab.
4. Ouvrez le terminal.
5. Exécutez les commandes suivantes pour afficher votre allocation de ressources.
   Mémoire système et charge de processeur disponibles :

   top

   Tâches en cours d'exécution et charge de processeur :

   ps -ax

   Utilisation et disponibilité de l'espace disque :

   df -h

   Utilisation et disponibilité de la RAM :

   free -m

Utiliser les métriques CloudWatch pour visualiser l'utilisation des ressources de SageMaker AI

Remarque : Si des erreurs surviennent lorsque vous exécutez des commandes de l'interface de la ligne de commande AWS (AWS CLI), consultez la section Résoudre des erreurs liées à l’AWS CLI. Vérifiez également que vous utilisez bien la version la plus récente de l’AWS CLI.

Utilisez un script de cycle de vie. Par exemple, le script publish-instance-metrics publie les métriques au niveau du système depuis l'instance de bloc-notes vers CloudWatch. Pour plus d'informations, consultez la page publish-instance-metrics / on-start.sh sur le site Web de GitHub.

Remarque : Pour envoyer des métriques d'instance à CloudWatch, les instances doivent endosser un rôle d'exécution AWS Identity and Access Management (IAM). Ajoutez l'autorisation cloudwatch:PutMetricData à la politique IAM associée au rôle d'exécution.

Exemple de politique :

{   
   "Version": "2012-10-17",   
   "Statement": [   
     {   
            "Effect":   
            "Allow",   
            "Action": [   
                "cloudwatch:PutMetricData"   
            ],   
            "Resource": "*"   
            }   
     ]   
}

Lorsque vous activez CloudWatch Logs pour la configuration du cycle de vie, utilisez un rôle SageMaker avec les autorisations suivantes :

{   
   "Version": "2012-10-17",   
   "Statement": [   
     {   
            "Effect":   
            "Allow",   
            "Action": [   
                "logs:CreateLogDelivery",   
                "logs:CreateLogGroup",    
                "logs:CreateLogStream",   
                "logs:DeleteLogDelivery",   
                "logs:Describe*",   
                "logs:GetLogDelivery",   
                "logs:GetLogEvents",   
                "logs:ListLogDeliveries",   
                "logs:PutLogEvents",   
                "logs:PutResourcePolicy",   
                "logs:UpdateLogDelivery"   
            ],   
            "Resource": "*"   
            }  
    ]   
}

Assurez-vous que l'instance du bloc-notes est connectée à Internet pour obtenir le fichier de configuration amazon-cloudwatch-agent.json afin que le script n'échoue pas. Si l'accès à Internet n'est pas disponible sur le bloc-notes, téléchargez manuellement le fichier .json depuis GitHub sur votre ordinateur local. Téléchargez le fichier dans un compartiment Amazon Simple Storage Service (Amazon S3), puis modifiez le code bash pour copier le fichier de configuration depuis le compartiment S3. Dans le script LLC on-start.sh, exécutez la commande wget pour supprimer la ligne qui utilise la commande wget. Puis, ajoutez la commande s3 cp de l’interface de la ligne de commande AWS pour copier le fichier .json du compartiment S3 vers un répertoire. Il est recommandé de placer le fichier de l'agent CloudWatch dans un répertoire, puis d'exécuter la commande suivante pour démarrer l'agent :

``/opt/aws/amazon-cloudwatch-agent/bin/amazon-cloudwatch-agent-ctl -a \
append-config -m ec2 -c file://$(pwd)/amazon-cloudwatch-agent.json

Assurez-vous de créer des points de terminaison de cloud privé virtuel (VPC) d'interface afin de pouvoir accéder à d'autres services AWS, tels qu'Amazon S3 et CloudWatch.

Configurer le bloc-notes SageMaker AI pour afficher les métriques CloudWatch

Procédez comme suit :

1. Ouvrez la console SageMaker AI.

2. Dans le volet de navigation, choisissez Instances de bloc-notes.

3. À côté de votre bloc-notes SageMaker, ouvrez Jupyter ou Jupyterlab.

4. Ouvrez le terminal.

5. Exécutez la commande suivante pour ouvrir amazon-cloudwatch-agent-config-wizard :

   sudo /opt/aws/amazon-cloudwatch-agent/bin/amazon-cloudwatch-agent-config-wizard

6. Suivez les étapes de l'assistant, puis, lorsque vous y êtes invité, procédez comme suit :
   Sélectionnez Hôte sur site.
   Pour Démon StatsD, sélectionnez Non.
   Pour CollectD, sélectionnez Non.

7. Exécutez la commande suivante pour démarrer l'agent CloudWatch sur votre serveur et incluez le fichier config.json créé par l'assistant :

   sudo /opt/aws/amazon-cloudwatch-agent/bin/amazon-cloudwatch-agent-ctl -a fetch-config -m ec2 -c file:///opt/aws/amazon-cloudwatch-agent/bin/config.json -s

8. Ouvrez la console CloudWatch.

9. Sélectionnez Métriques, puis CWAgent pour afficher vos métriques SageMaker AI.

Pour consulter d'autres exemples de scripts de configuration du cycle de vie AWS pour les blocs-notes SageMaker AI, consultez la page amazon-sagemaker-notebook-instance-lifecycle-config-samples sur le site Web de GitHub.

Informations connexes

Métriques pour la surveillance d'Amazon SageMaker AI avec Amazon CloudWatch

Métriques collectées par l'agent CloudWatch

Outils de surveillance des ressources AWS provisionnées lors de l'utilisation d'Amazon SageMaker AI

Terminaux sur le site Web de JupyterLab