Systems Manager를 사용하여 Amazon SageMaker 엔드포인트에 연결할 때 발생하는 문제를 해결하려면 어떻게 해야 합니까?

간략한 설명

SageMaker는 Systems Manager를 사용하여 추론을 위해 배포된 모델을 호스팅하는 Docker 컨테이너에 안전하게 연결할 수 있습니다. 이 기능은 컨테이너에 대한 쉘 수준 액세스를 부여하고 Amazon CloudWatch를 사용하여 사용자가 컨테이너 내에서 실행되는 프로세스의 디버그를 허용합니다.

또한 사용자는 컨테이너를 호스팅하는 기계 학습 인스턴스에 AWS PrivateLink 연결을 설정하고, Systems Manager에서 컨테이너에 대한 비공개 액세스를 허용할 수 있습니다. 이 방법을 사용하면 배포된 모델에 대한 사용자의 모니터링, 문제 해결 및 관리가 개선됩니다.

참고: SSM 액세스를 켜면 엔드포인트 성능에 영향을 미칠 수 있습니다. 프로덕션 엔드포인트 대신 개발 또는 테스트 엔드포인트에서 이 기능을 사용하는 것이 좋습니다. 자세한 내용은 SSM을 통한 컨테이너 액세스에 대한 경고 메시지를 참조하십시오.

해결 방법

다음 오류를 기반으로 Systems Manager를 사용하여 SageMaker에 연결할 때 발생하는 문제를 해결하십시오.

ValidationException: 요청한 리전의 계정에 SSM 액세스가 허용되지 않습니다. 이 기능을 활성화하려면 고객 지원팀에 문의하십시오.

이 오류는 요청된 AWS 리전의 SageMaker 엔드포인트 Systems Manager 기능을 사용할 수 있는 계정이 허용 목록에 등록되지 않았을 때 발생합니다. 이 오류를 해결하려면 AWS Support에 문의하여 계정에 이 기능을 사용할 수 있도록 허용 목록에 등록할 것을 요청하십시오. 계정이 액세스 허용 목록에 등록되지 않은 경우 Systems Manager 액세스가 켜진 상태에서 엔드포인트를 생성할 수 없습니다.

An error occurred (TargetNotConnected) when calling the StartSession operation: <example-endpoint-id>_<example-instance-id> is not connected

이 오류는 SageMaker 엔드포인트에 연결하고 엔드포인트의 대상 ID로 모델 컨테이너에 액세스하려고 할 때 발생합니다. 이 문제를 해결하려면 다음 단계를 완료하십시오.

• 엔드포인트에 연결하는 IAM 사용자의 AWS Identity and Access Management(IAM) 권한을 확인하십시오. 또한 엔드포인트와 연결된 런타임 역할의 권한을 확인하십시오. 자세한 내용은 IAM 구성을 참조하십시오.
• 세션을 시작하려는 관리형 노드의 AWS 계정 또는 리전을 확인하십시오. 이 오류는 관리형 노드가 다른 계정이나 리전에 있는 경우 발생합니다.
• 인스턴스 ID가 올바르지 않거나 오래되었는지 확인하십시오. 인스턴스는 엔드포인트의 수명 주기 동안 정기적으로 교체됩니다. 잘못되거나 오래된 인스턴스 문제를 해결하려면 엔드포인트 뒤에서 현재 인스턴스를 찾고 해당 인스턴스에 Systems Manager 연결을 설정하십시오.

관련 정보

GitHub 웹사이트의 SSM을 사용하여 SageMaker 추론 엔드포인트에 연결