Tutoriel : configurer W&B Launch sur SageMaker

​

Prérequis

• Déterminez si vous souhaitez que l’agent Launch crée une image Docker pour vous.
• Configurez les ressources AWS et rassemblez des informations sur les rôles IAM de S3, ECR et SageMaker.
• Créez un rôle IAM pour l’agent Launch.

​

Décidez si vous voulez que l’agent Launch crée une image Docker

• Autoriser l’agent Launch à créer une image Docker, à téléverser l’image vers Amazon ECR et à soumettre des jobs SageMaker Training pour vous. Cette option peut simplifier le travail des ingénieurs ML qui itèrent rapidement sur leur code d’entraînement.
• Utilisez une image Docker existante qui contient vos scripts d’entraînement ou d’inférence. Cette option s’intègre bien aux systèmes CI existants. Si vous choisissez cette option, vous devez téléverser manuellement votre image Docker dans votre registre de conteneurs Amazon ECR.

​

Configurer les ressources AWS

1. Un dépôt Amazon ECR pour stocker les images de conteneur.
2. Un ou plusieurs buckets S3 pour stocker les données d’entrée et de sortie de vos tâches d’entraînement SageMaker.
3. Un rôle IAM pour Amazon SageMaker qui permet à SageMaker d’exécuter des tâches d’entraînement et d’interagir avec Amazon ECR et Amazon S3.

​

Créer une stratégie IAM pour l’agent Launch

1. Depuis la page IAM dans AWS, créez une stratégie.
2. Basculez vers l’éditeur de stratégie JSON, puis collez la stratégie suivante selon votre cas d’utilisation. Remplacez les espaces réservés entre [CROCHETS] par vos propres valeurs :

  {
    "Version": "2012-10-17",
    "Statement": [
      {
        "Effect": "Allow",
        "Action": [
          "logs:DescribeLogStreams",
          "SageMaker:AddTags",
          "SageMaker:CreateTrainingJob",
          "SageMaker:DescribeTrainingJob"
        ],
        "Resource": "arn:aws:sagemaker:[REGION]:[ACCOUNT-ID]:*"
      },
      {
        "Effect": "Allow",
        "Action": "iam:PassRole",
        "Resource": "arn:aws:iam::[ACCOUNT-ID]:role/[ROLE-ARN-FROM-QUEUE-CONFIG]"
      },
    {
        "Effect": "Allow",
        "Action": "kms:CreateGrant",
        "Resource": "[ARN-OF-KMS-KEY]",
        "Condition": {
          "StringEquals": {
            "kms:ViaService": "SageMaker.[REGION].amazonaws.com",
            "kms:GrantIsForAWSResource": "true"
          }
        }
      }
    ]
  }

  {
    "Version": "2012-10-17",
    "Statement": [
      {
        "Effect": "Allow",
        "Action": [
          "logs:DescribeLogStreams",
          "SageMaker:AddTags",
          "SageMaker:CreateTrainingJob",
          "SageMaker:DescribeTrainingJob"
        ],
        "Resource": "arn:aws:sagemaker:[REGION]:[ACCOUNT-ID]:*"
      },
      {
        "Effect": "Allow",
        "Action": "iam:PassRole",
        "Resource": "arn:aws:iam::[ACCOUNT-ID]:role/[ROLE-ARN-FROM-QUEUE-CONFIG]"
      },
       {
      "Effect": "Allow",
      "Action": [
        "ecr:CreateRepository",
        "ecr:UploadLayerPart",
        "ecr:PutImage",
        "ecr:CompleteLayerUpload",
        "ecr:InitiateLayerUpload",
        "ecr:DescribeRepositories",
        "ecr:DescribeImages",
        "ecr:BatchCheckLayerAvailability",
        "ecr:BatchDeleteImage"
      ],
      "Resource": "arn:aws:ecr:[REGION]:[ACCOUNT-ID]:repository/[REPOSITORY]"
    },
    {
      "Effect": "Allow",
      "Action": "ecr:GetAuthorizationToken",
      "Resource": "*"
    },
    {
        "Effect": "Allow",
        "Action": "kms:CreateGrant",
        "Resource": "[ARN-OF-KMS-KEY]",
        "Condition": {
          "StringEquals": {
            "kms:ViaService": "SageMaker.[REGION].amazonaws.com",
            "kms:GrantIsForAWSResource": "true"
          }
        }
      }
    ]
  }

3. Cliquez sur Next.
4. Donnez un nom et une description à la stratégie.
5. Cliquez sur Create policy.

​

Créer un rôle IAM pour l’agent Launch

1. Dans l’écran IAM d’AWS, créez un rôle.
2. Pour Trusted Entity, sélectionnez AWS Account (ou une autre option conforme aux politiques de votre organisation).
3. Faites défiler l’écran des autorisations et sélectionnez le nom de la stratégie que vous avez créée dans la section précédente.
4. Donnez un nom et une description au rôle.
5. Sélectionnez Create role.
6. Notez l’ARN du rôle. Vous indiquerez cet ARN lorsque vous configurerez l’agent Launch.

​

Configurer la file d’attente Launch pour SageMaker

1. Accédez à la Launch App.
2. Cliquez sur Create Queue.
3. Sélectionnez l’Entity dans laquelle vous souhaitez créer la file d’attente.
4. Saisissez un nom pour votre file d’attente dans le champ Name.
5. Sélectionnez SageMaker comme Resource.
6. Dans le champ Configuration, fournissez des informations sur votre tâche SageMaker. Par défaut, W&B préremplit un corps de requête CreateTrainingJob en YAML et en JSON :
   {
     "RoleArn": "[REQUIRED]", 
     "ResourceConfig": {
         "InstanceType": "ml.m4.xlarge",
         "InstanceCount": 1,
         "VolumeSizeInGB": 2
     },
     "OutputDataConfig": {
         "S3OutputPath": "[REQUIRED]"
     },
     "StoppingCondition": {
         "MaxRuntimeInSeconds": 3600
     }
   }
   

• RoleArn : l’ARN du rôle IAM d’exécution SageMaker (voir les prérequis). Ne le confondez pas avec le rôle IAM de l’agent Launch.
• OutputDataConfig.S3OutputPath : un URI Amazon S3 qui indique où SageMaker stocke les données de sortie.
• ResourceConfig : spécification requise d’une configuration de ressource. Pour connaître les options de configuration de ressource, voir la documentation AWS ResourceConfig.
• StoppingCondition : spécification requise des conditions d’arrêt de la tâche d’entraînement. Pour connaître les options, voir la documentation AWS StoppingCondition.

7. Cliquez sur Create Queue.

​

Configurer l’agent Launch

​

Décidez où exécuter l’agent Launch

[profile SageMaker-agent]
role_arn = arn:aws:iam::[ACCOUNT-ID]:role/[AGENT-ROLE-NAME]
source_profile = default                                                                   

[default]
aws_access_key_id=[ACCESS-KEY-ID]
aws_secret_access_key=[SECRET-ACCESS-KEY]
aws_session_token=[SESSION-TOKEN]

​

Configurer un agent Launch

max_jobs: -1
queues:
  - [QUEUE-NAME]
environment:
  type: aws
  region: [YOUR-REGION]
registry:
  type: ecr
  uri: [ECR-REPO-ARN]
builder: 
  type: docker

​

Facultatif : Téléversez l’image Docker de votre job Launch vers Amazon ECR