RDP를 사용하여 EC2 Windows 인스턴스에 연결할 때 발생하는 인증 오류를 해결하려면 어떻게 해야 합니까?

6분 분량

원격 데스크톱 프로토콜(RDP)을 사용하여 Amazon Elastic Compute Cloud(Amazon EC2) Windows 인스턴스에 로그인하면 인증 오류가 발생합니다.

간략한 설명

RDP를 사용하여 Amazon EC2 Windows 인스턴스에 로그인할 때 다음과 같은 인증 오류가 발생할 수 있습니다.

"An authentication error has occurred. The Local Security Authority cannot be contacted."

"The remote computer that you are trying to connect to requires Network Level Authentication (NLA), but your Windows domain controller cannot be contacted to perform NLA. If you are an administrator on the remote computer, you can disable NLA by using the options on the Remote tab of the System Properties dialog box."

이러한 오류는 다음 시나리오에서 발생할 수 있습니다.

서버에 네트워크 계층 인증(NLA)이 켜져 있습니다.
RDP 로그인 시 사용자 도메인과 이 도메인에 연결된 EC2 인스턴스 간의 신뢰 관계가 실패합니다.

AWSSupport-TroubleshootRDP 런북을 사용하거나 수동으로 오류를 해결할 수 있습니다.

해결 방법

서버의 NLA가 활성화되어 있음

도메인 자격 증명이 인증되지 않아 인스턴스와 도메인 컨트롤러의 연결이 끊어지면 NLA 오류가 발생합니다. 이 문제를 해결하려면 다음 방법 중 하나를 사용하여 연결할 수 없는 인스턴스에서 NLA를 비활성화하십시오.

AWS Systems Manager AWSSupport-TroubleshootRDP 자동화를 실행하여 인스턴스 설정을 수정합니다.
Systems Manager Session Manager 또는 aws:runPowerShellscript 명령을 사용합니다.
오프라인에서 레지스트리를 수동으로 변경합니다.

참고: NLA를 변경하는 경우 레지스트리를 변경해야 합니다. 시작하기 전에 인스턴스에서 Amazon Machine Image(AMI)를 만드십시오. 이렇게 하면 레지스트리를 변경하기 전에 백업이 생성됩니다.

AWSSupport-TroubleshootRDP 자동화 실행

사전 요구 사항:

RDP 설정, RDP 서비스 및 Windows 방화벽 프로필의 변경 사항을 검토합니다.
대상 EC2 인스턴스에 AmazonSSMManagedInstanceCore Amazon 관리형 정책이 연결된 AWS Identity and Access Management(IAM) 인스턴스 프로파일 역할이 있는지 확인합니다.
현재 IAM 사용자 또는 역할에 필요한 권한이 있는지 확인합니다. 자세한 내용은 AWSSupport-TroubleshootRDP의 필수 IAM 권한 섹션을 참조하십시오.
참고: AllowOffline 옵션을 선택하면 이 런북은 AWSSupport-ExecuteEC2Rescue 런북을 호출하여 오프라인 수정을 수행합니다. 런북을 시작하려면 AmazonSSMAutomationRole IAM 관리형 정책이 연결되어 있어야 합니다. 자세한 내용은 AWSSupport-StartEC2RescueWorkflow를 참조하십시오.

Systems Manager 런북을 실행하려면 다음 단계를 완료하십시오.

Systems Manager 콘솔을 엽니다.
탐색 창에서 문서를 선택합니다.
검색 창에 AWSSupport-TroubleshootRDP를 입력합니다.
AWSSupport-TroubleshootRDP 문서를 선택합니다.
자동화 실행을 선택합니다.
실행을 선택합니다.

자동화가 완료된 후 자세한 결과를 보려면 출력 섹션을 검토합니다.

Systems Manager Session Manager 사용

중요: 인스턴스에 Systems Manager Agent(SSM Agent)가 설치되어 있고 인스턴스가 온라인 상태여야 합니다. 또한 인스턴스에 Session Manager에 대한 권한을 부여하는 IAM 역할이 있어야 합니다. 자세한 내용은 Session Manager 사전 요구 사항 완료를 참조하십시오.

Session Manager를 사용하여 레지스트리 키를 추가하고 NLA를 비활성화하려면 다음 단계를 완료하십시오.

Systems Manager 콘솔을 엽니다.
탐색 창에서 Fleet Manager를 선택합니다.
연결하려는 관리형 인스턴스를 선택합니다.
노드 작업 메뉴에서 터미널 세션 시작을 선택합니다.

터미널 세션에서 다음 명령을 실행합니다.

reg add "HKLM\SYSTEM\CurrentControlSet\Control\Terminal Server\WinStations\RDP-Tcp" /v SecurityLayer /t REG_DWORD /d 0 /f  
reg add "HKLM\SYSTEM\CurrentControlSet\Control\Terminal Server\WinStations\RDP-Tcp" /v UserAuthentication /t REG_DWORD /d 0 /f
reg add "HKLM\SYSTEM\CurrentControlSet\Control\Terminal Server\WinStations\RDP-Tcp" /v fAllowSecProtocolNegotiation /t REG_DWORD /d 0 /f

aws:runPowerShellscript 명령 사용

중요: 인스턴스에 SSM Agent가 설치되어 있고 인스턴스가 온라인 상태여야 합니다. 또한 인스턴스에 Session Manager에 대한 권한을 부여하는 IAM 역할이 있어야 합니다. 자세한 내용은 Session Manager 사전 요구 사항 완료를 참조하십시오.

aws:runPowerShellscript 명령 문서를 사용하여 레지스트리 키를 추가하고 NLA를 비활성화하려면 다음 단계를 완료하십시오.

Systems Manager 콘솔을 엽니다.

탐색 창에서 명령 실행을 선택한 다음, 명령 실행을 선택합니다.
명령 문서에서 AWS-RunPowerShellScript를 선택합니다.
명령 파라미터에 다음 명령을 입력합니다.

reg add "HKLM\SYSTEM\CurrentControlSet\Control\Terminal Server\WinStations\RDP-Tcp" /v SecurityLayer /t REG_DWORD /d 0 /f  
reg add "HKLM\SYSTEM\CurrentControlSet\Control\Terminal Server\WinStations\RDP-Tcp" /v UserAuthentication /t REG_DWORD /d 0 /f
reg add "HKLM\SYSTEM\CurrentControlSet\Control\Terminal Server\WinStations\RDP-Tcp" /v fAllowSecProtocolNegotiation /t REG_DWORD /d 0 /f

대상 선택에서 수동으로 인스턴스 선택을 선택한 다음, 해당 인스턴스를 선택합니다.

실행을 선택합니다.
전체 상태가 성공으로 변경될 때까지 기다립니다. 2분 후에 페이지를 새로 고칩니다.
인스턴스를 다시 시작합니다.
RDP를 사용하여 인스턴스에 로그인합니다.

오프라인에서 레지스트리를 수동으로 변경

다음 단계를 완료하십시오.

연결할 수 없는 인스턴스를 중지한 다음, 루트 볼륨을 분리합니다.
중지한 연결할 수 없는 인스턴스와 동일한 가용 영역에서 새 인스턴스를 시작합니다. 새 인스턴스가 복구 인스턴스가 됩니다.

중요: 디스크 서명 문제를 방지하려면 연결할 수 없는 인스턴스와 다른 Windows 인스턴스를 시작하는 것이 좋습니다.
분리된 볼륨을 복구 인스턴스에 /dev/xvdf로 연결합니다.
RDP를 사용하여 복구 인스턴스에 연결한 다음, 방금 연결한 볼륨을 디스크 관리자에서 온라인으로 가져옵니다.
명령 프롬프트에 regedit.exe를 입력한 다음, Enter 키를 눌러 레지스트리 편집기를 엽니다.
HKEY_LOCAL_MACHINE을 선택하고 파일을 선택한 다음, Hive 로드를 선택합니다.
연결된 볼륨의 Windows 폴더로 이동한 다음, SYSTEM 파일을 선택합니다. 기본 경로는 D:\Windows\System32\config입니다.
SYSTEM 파일 이름을 지정합니다. 예: ** badsys**
이제 badsys 시스템 파일이 HKEY_LOCAL_MACHINE 아래에 나타납니다. badsys에서 ControlSet001, Control, Terminal Server, WinStations, RDP-Tcp로 이동합니다.
SecurityLayer를 두 번 클릭하고 값 데이터를 0으로 설정합니다.
UserAuthentication을 선택하고 값 데이터를 0으로 설정합니다.
fAllowSecProtocolNegotiation을 선택하고 값 데이터를 0으로 설정합니다.
badsys를 선택하고 파일을 선택한 다음, Hive 언로드를 선택합니다.
Hive가 언로드되면 디스크 관리자를 열고 디스크를 오프라인으로 전환합니다.
복구 인스턴스에서 볼륨을 분리하고 연결할 수 없는 인스턴스에 볼륨을 루트 볼륨(/dev/sda1)으로 연결합니다.
인스턴스를 시작한 다음, RDP를 테스트합니다.

RDP 로그인 시 신뢰 관계가 실패함

캐시된 사용자 자격 증명을 사용하여 연결할 수 없는 인스턴스에 로그인을 시도합니다.

사전 요구 사항:

EC2 인스턴스에 성공적으로 인증할 수 있는 로컬 계정.
(선택 사항) 인스턴스가 도메인 컨트롤러와 통신할 때 로그인되어 있는 하나 이상의 도메인 계정. 도메인 계정이 작동하려면 도메인 계정 자격 증명을 서버에 캐시해야 합니다.
참고: 로컬 계정을 사용하는 것이 가장 좋습니다.
도메인 컨트롤러를 사용할 수 없는 경우 캐시할 이전 로그인 수 설정이 1 이상으로 설정되어 있는지 확인합니다. 대화형 로그인을 사용하려면 이 작업을 수행해야 합니다. 정책을 기본값인 10으로 설정할 수 있습니다. 기본적으로 정책은 정의되어 있지 않으며 서버의 로컬 정책을 사용할 수 있습니다.

캐시된 사용자 자격 증명을 사용하여 로그인하려면 다음 단계를 완료하십시오.

Amazon EC2 콘솔을 엽니다.
탐색 창에서 보안 그룹을 선택합니다.
보안 그룹 생성을 선택합니다.
보안 그룹 이름과 설명을 추가합니다.
인바운드 규칙에서 규칙 추가를 선택합니다.
유형에서 RDP를 선택합니다. 그런 다음, RDP를 사용하여 연결할 소스에 대한 정보를 입력합니다.
아웃바운드 규칙에서 모든 아웃바운드 액세스를 제거합니다.
보안 그룹 생성을 선택합니다.
탐색 창에서 인스턴스를 선택한 다음, 연결할 수 없는 인스턴스를 선택합니다.
작업을 선택하고 보안을 선택한 다음, 보안 그룹 변경을 선택합니다. 기존 보안 그룹을 제거한 다음, 방금 만든 보안 그룹을 할당합니다.
일반 도메인 계정을 통해 RDP를 사용하여 EC2 인스턴스에 연결합니다. Amazon EC2에서 아웃바운드 액세스를 제거했으므로 RDP는 서버에 저장된, 캐시된 자격 증명을 사용합니다.

참고: 처음에는 도메인 컨트롤러를 통해 인증을 시도합니다. Amazon EC2에서 들어오는 아웃바운드 액세스가 없기 때문에 결국에는 서버에 저장된, 캐시된 자격 증명을 확인합니다. 그런 다음, 캐시된 자격 증명을 사용하여 인증을 다시 시도하고 로그인에 성공합니다. 로그인한 후 보안 그룹 설정을 원래 상태로 다시 변경할 수 있습니다. 그런 다음, 계속해서 도메인 관련 문제를 해결하십시오.

추가 문제 해결

여전히 인스턴스에 연결할 수 없는 경우 EC2 Windows 인스턴스의 RDP 연결 문제를 해결하려면 어떻게 해야 합니까?를 참조하십시오.

RDP를 사용하여 EC2 Windows 인스턴스에 연결할 때 발생하는 인증 오류를 해결하려면 어떻게 해야 합니까?

간략한 설명

해결 방법

서버의 NLA가 활성화되어 있음

RDP 로그인 시 신뢰 관계가 실패함

추가 문제 해결

관련 정보

관련 비디오

관련 콘텐츠