Shadowrocket VMess·VLESS 차이와 설정 방법: 암호화·전송 오버헤드

Shadowrocket에서 VMess와 VLESS의 암호화, 전송 오버헤드, iPhone 사용 차이를 비교하고 Add Server 항목별 설정 방법을 안내합니다.

핵심 내용

VMess는 프로토콜 계층에서 데이터 암호화 옵션을 제공합니다. VLESS 자체는 페이로드를 암호화하지 않으므로 실제 연결 보호 여부는 함께 사용하는 보안 계층을 확인해야 합니다. 이미 서비스 제공업체와 구독 설정을 보유한 경우를 전제로, Shadowrocket에서 프로토콜·전송 방식·TLS의 차이를 설명하고 Add Server 항목을 하나씩 점검합니다. 선택은 서버 설정에 맞춰야 하며 Type만 바꿔 기존 VMess 연결을 VLESS로 전환할 수는 없습니다.

VMess와 VLESS: 프로토콜·전송 방식·암호화를 구분하세요

Shadowrocket의 서버 항목은 여러 계층으로 구성됩니다. VMess와 VLESS는 프록시 프로토콜이고, TCP와 WebSocket은 데이터를 전달하는 전송 방식이며, TLS는 전송을 보호하는 보안 계층입니다. 서로 다른 종류의 설정이므로 대체해서 사용할 수 없습니다. VLESS를 선택했더라도 전송 방식과 TLS 설정을 추가로 확인해야 합니다.

확인 항목VMessVLESS
인증UUID 등의 인증 매개변수를 사용하며, 이전 설정에는 Alter ID가 포함될 수도 있습니다.UUID로 인증하며 VMess의 Alter ID는 사용하지 않습니다.
프로토콜 계층 페이로드 암호화AES-128-GCM, ChaCha20-Poly1305 등의 옵션을 설정에 따라 사용할 수 있습니다.일반적인 프로토콜 계층 페이로드 암호화를 제공하지 않으며, 흔히 encryption을 none으로 설정합니다.
전송 방식서버의 TCP, WebSocket 등 전송 설정과 일치해야 합니다.마찬가지로 서버의 전송 설정에 맞춰야 합니다.
외부 보안 계층TLS를 함께 사용할 수 있습니다. VMess라는 이름만으로 TLS 사용 여부를 판단할 수는 없습니다.일반적으로 TLS나 지정된 다른 보안 방식이 필요합니다. 보안 계층을 빠뜨리지 마세요.
Type을 바로 변경해도 되나요?안 됩니다. 서버에 해당 프로토콜용 접속 지점과 필요한 매개변수가 모두 설정되어 있어야 합니다.

UUID는 인증 정보이지 암호화 알고리즘이 아닙니다. UUID가 같아도 두 설정의 프로토콜, 포트, 전송 방식 또는 보안 계층은 완전히 다를 수 있습니다. UUID가 같다는 이유만으로 설정을 서로 바꿔 쓸 수 있다고 판단하지 마세요.

VMess의 AEAD는 인증 암호화 방식을 뜻합니다. 최신 VMess 설정은 일반적으로 Alter ID를 0으로 사용합니다. 이전 자료에 나온 0이 아닌 값은 새 설정에 그대로 적용하지 마세요. VLESS에는 이에 해당하는 Alter ID 매개변수가 없으며, 입력란을 채우려고 임의로 추가해서도 안 됩니다.

암호화 옵션과 TLS: none이어도 연결 전체가 평문인 것은 아닙니다

암호화 여부는 전체 프로토콜 스택을 기준으로 판단해야 합니다. VLESS의 none은 프로토콜 자체의 암호화 설정만 나타냅니다. 외부 계층에서 TLS를 올바르게 사용하면 클라이언트와 TLS 종료 지점 사이의 데이터는 암호화됩니다. 반대로 포트가 443이라고 TLS가 활성화된 것은 아닙니다. 포트 번호는 서버가 연결을 기다리는 위치일 뿐입니다.

443
TLS에서 자주 사용하는 포트일 뿐, TLS 활성화 스위치는 아닙니다.
0
최신 VMess 설정에서 흔히 사용하는 Alter ID 값
3개 계층
프록시 프로토콜, 전송 방식, 보안 계층을 각각 확인하세요.

아래 비교는 일반 TLS를 사용하는 설정에 한합니다. 이미 다른 보안 방식을 사용하는 설정은 기존 매개변수를 유지하고, 일반 TLS 설정을 그대로 적용하지 마세요. TLS 인증서 검증은 연결 상대의 신원을 확인합니다. 인증서 문제를 해결하는 일반적인 방법은 검증을 끄는 것이 아닙니다.

TLS 활성화 및 인증서 검증

권장

서버가 일반 TLS를 제공한다고 명시한 연결에 적합합니다. 인증서 검증을 유지하고 Server Name을 서버 요구사항 및 인증서 이름에 맞추세요.

적합한 경우: 유효한 인증서를 사용하고 일반 TLS를 적용한 일상적인 설정

TLS 비활성화

서버에서 이 설정을 명확히 요구하는 경우에만 사용하세요. VLESS 자체는 페이로드를 암호화하지 않습니다. 핸드셰이크 오류를 없애려고 TLS를 임의로 끄지 마세요.

적합한 경우: 일반 TLS를 사용하지 않는 것이 명확한 기존 설정 확인

TLS 활성화, 인증서 검증 건너뛰기

인증서 오류를 피할 수는 있지만 정상적인 서버 신원 확인도 사라집니다. 이 설정을 계속 유지하지 말고 인증서, 도메인 또는 기기 시간을 바로잡으세요.

적합한 경우: 기존 설정의 위험 요소를 확인하고 수정 계획을 세울 때

판단 순서: 보안 계층을 확인한 다음 프로토콜 이름을 비교하세요

VLESS에서 none을 보더라도 TLS와 인증서 검증을 계속 확인하세요. 포트가 443이어도 TLS 스위치 상태를 점검해야 합니다. 암호화 드롭다운만 바꾸고 설정 전체를 저장하지 마세요.

전송 오버헤드와 iPhone 성능: 프로토콜 이름만으로 판단할 수 없습니다

VLESS는 비교적 가벼운 프로토콜로 설계됐지만 모든 VLESS 연결이 VMess보다 빠른 것은 아닙니다. 실제 속도는 회선 혼잡도, 서버 부하, 왕복 지연 시간, 패킷 손실, 전송 캡슐화, 기기 상태에도 영향을 받습니다. VMess와 VLESS가 서로 다른 서버에 연결된다면 속도 차이가 크더라도 프로토콜만의 차이라고 단정할 수 없습니다.

VMess는 프로토콜 계층 암호화에 연산과 데이터 오버헤드가 발생하며 TLS까지 사용하면 두 계층의 처리 비용이 더해질 수 있습니다. VLESS는 같은 방식의 페이로드 암호화를 하지 않아 이 부분의 작업량을 줄일 수 있지만 TLS, WebSocket 및 기타 전송 처리 비용은 여전히 발생합니다. 구체적인 차이는 하드웨어, 구현 방식, 전체 설정에 따라 달라지므로 일률적인 속도 향상 비율을 제시할 수 없습니다.

  1. 테스트 환경을 동일하게 유지하세요. 같은 iPhone, 같은 Wi-Fi, 같은 위치에서 테스트하세요. 셀룰러 네트워크와 Wi-Fi의 차이는 별도로 기록하고 한 결과에 섞지 마세요.
  2. 테스트 대상과 라우팅을 고정하세요. 같은 테스트 대상을 사용하고 연결 로그에서 현재 선택한 서버를 통해 트래픽이 흐르는지 확인하세요. 규칙이 테스트 대상을 DIRECT로 보내면 결과는 프록시 속도를 나타내지 않습니다.
  3. 새 연결과 연속 다운로드를 구분하세요. 첫 화면 표시 시간은 DNS, TCP, TLS 핸드셰이크의 영향을 받기 쉽습니다. 장시간 다운로드는 대역폭과 혼잡 제어에도 영향을 받습니다. 지연 시간 하나만으로 두 상황을 모두 평가할 수는 없습니다.
  4. 한 번에 한 항목만 변경하세요. 서비스 제공업체가 같은 회선의 두 프로토콜 설정을 제공할 때만 비교하는 것이 좋습니다. 각 조건을 3회 반복하고 중간값을 기록하세요. 전송 방식과 TLS 설정이 같은지도 함께 적어 두세요.

iPhone의 배터리 소모를 비교할 때는 화면 밝기, 테스트 시간, 백그라운드 활동도 동일하게 유지하세요. 짧은 속도 테스트 한 번으로 하루 사용 시간을 추정할 수는 없습니다. 기기가 눈에 띄게 뜨거워지면 연속 테스트를 멈추고 기기 상태가 안정된 다음 다시 측정하세요. 온도 변화를 프로토콜 차이로 오해하지 않도록 주의해야 합니다.

Add Server 매개변수 설정: 서버 설정을 기준으로 하나씩 확인하세요

구독을 이미 사용 중이라면 가져온 항목은 그대로 보존하고 복사본을 만들어 점검하세요. 직접 추가하려면 Home에서 추가 메뉴를 열고 Add Server로 이동합니다. 표시되는 항목은 Type과 전송 설정에 따라 달라집니다. 먼저 VMess 또는 VLESS를 선택한 뒤 나머지 매개변수를 입력하세요.

항목 또는 매개변수입력 기준흔한 실수
Type서비스 제공업체가 명시한 VMess 또는 VLESS를 선택합니다.프로토콜 이름만 바꾸고 나머지 매개변수는 그대로 둡니다.
Address / Port서버 도메인 또는 IP 주소와 실제 포트를 입력합니다.전체 구독 URL을 Address에 입력하거나 TLS가 보인다는 이유로 포트를 무조건 443으로 바꿉니다.
UUID본인의 인증 값을 그대로 입력하고 앞뒤 공백이 없는지 확인합니다.복사 중 문자가 빠지거나 예시용 인증 정보를 사용합니다.
EncryptionVMess는 설정에 맞는 값을 선택하고, VLESS는 요구사항에 따라 none을 유지합니다.VMess의 암호화 옵션을 VLESS에 적용합니다.
Alter ID해당 VMess 설정에만 사용합니다. 최신 설정에서는 보통 0입니다.오래된 안내의 값을 그대로 쓰거나 숫자가 클수록 안전하다고 생각합니다.
Transport실제 전송 방식인 TCP, WebSocket 등에 맞춥니다.TLS 연결에는 모두 WebSocket이 필요하다고 생각합니다.
TLS / Server Name서버 요구사항에 따라 활성화하고 해당 TLS 이름을 입력합니다.Address를 Server Name으로 기계적으로 복사해 인증서 이름이 일치하지 않게 합니다.
Host / PathWebSocket 설정은 Path 맨 앞의 슬래시까지 원래 값 그대로 입력합니다.Host와 Server Name을 혼동하거나 Path의 쿼리 부분을 빠뜨립니다.
FlowVLESS 설정에서 명시적으로 요구하고 현재 조합이 지원할 때만 입력합니다.모든 VLESS 연결에 같은 값을 일괄 추가합니다.

Address는 실제로 연결할 주소입니다. Server Name은 일반적으로 TLS의 SNI와 인증서 이름 검증에 사용되고, WebSocket의 Host는 HTTP 요청 헤더입니다. 세 값이 같을 수도 있고 서버 설계에 따라 다를 수도 있습니다. 세 항목을 모두 같은 도메인으로 바꾸면 정상 작동하던 설정이 깨질 수 있습니다.

특정 Flow나 기타 보안 매개변수가 포함된 VLESS 설정은 해당 항목을 모두 유지해야 합니다. 가져온 뒤 필수 항목이 누락됐다면 먼저 Shadowrocket이 해당 매개변수 조합을 지원하는지 확인한 다음 서비스 제공업체에 설정 내용을 문의하세요. 핵심 매개변수를 삭제해 일반 VLESS로 단순화하지 마세요.

가져온 뒤 연결되지 않을 때: 인증, 핸드셰이크, 전송 순서로 확인하세요

연결 스위치가 켜져 있다는 것은 클라이언트가 연결 처리를 시작했다는 뜻일 뿐, 선택한 서버의 인증이 완료됐다는 의미는 아닙니다. 문제를 점검할 때는 원본 항목을 보존하고 Home에서 테스트할 항목을 선택하세요. 규칙의 영향을 분리하려면 Global Routing에서 Proxy를 임시로 사용하고, 점검을 마친 뒤 평소 사용하는 Config로 되돌리세요.

“VMess는 되는데 Type을 VLESS로 바꾸면 왜 연결이 안 되나요?”

Type을 원래대로 되돌리세요. 두 프로토콜은 핸드셰이크와 인증 형식이 다르므로 서버에서 별도로 구성한 VLESS 설정이 필요합니다. 서비스 제공업체에서 해당 매개변수를 받아 새 항목을 추가하고, 계속 사용할 수 있는 VMess 항목은 덮어쓰지 마세요.

“포트가 443인데 TLS 오류가 표시되는 이유는 무엇인가요?”

설정에 따라 TLS가 활성화되어 있는지 확인한 다음 Server Name, 인증서 유효 기간, 기기 날짜를 점검하세요. iPhone에서는 시스템 Settings → General → Date & Time에서 시간 설정을 확인할 수 있습니다. 인증서가 실제로 만료됐다면 서버 측에서 수정해야 합니다.

“지연 시간은 표시되는데 웹페이지가 계속 열리지 않아요.”

먼저 측정한 것이 지연 시간인지 실제 웹페이지 접속인지 확인한 다음 현재 연결의 라우팅 기록을 살펴보세요. 실제로 DIRECT를 사용했다면 Global Routing → Proxy로 임시 전환해 다시 테스트하세요. 선택한 서버를 통과하고 있다면 DNS, 인증, 전송 매개변수를 확인하세요.

“구독을 업데이트한 뒤 직접 수정한 항목이 다시 바뀌었어요.”

구독 항목은 업데이트 과정에서 다시 생성될 수 있습니다. 구독 원본은 보존하고 로컬 복사본을 만들어 수정 사항을 확인한 뒤 서비스 제공업체에 구독 내용을 바로잡아 달라고 요청하세요. 임시 변경을 서버 설정까지 수정된 것으로 오해하지 마세요.

오류 증상도 계층별로 살펴봐야 합니다. 연결 직후 인증 실패가 발생하면 UUID, Type, VMess 관련 인증 매개변수를 먼저 확인하세요. TLS 핸드셰이크가 실패하면 보안 계층을 우선 점검합니다. WebSocket에서 404 또는 400 등의 응답이 오면 Host, Path, 리버스 프록시 설정을 확인하세요. 이는 점검 우선순위일 뿐, 오류 코드만으로 원인을 하나로 단정할 수는 없습니다.

설정 선택 및 보존: 매개변수를 빠짐없이 유지하세요

현재 사용할 수 있는 VMess 설정이 하나뿐이라면 프로토콜을 직접 바꾸기보다 그대로 보존하는 편이 안전합니다. 서비스 제공업체가 두 가지 설정을 모두 제공한다면 각 설정으로 연결이 안정적으로 되는지 먼저 확인한 뒤 동일한 조건에서 첫 화면 표시 시간, 지속 전송 속도, 실패 횟수를 비교하세요. 이름이 짧거나 프로토콜이 최신이라는 이유, 또는 속도 테스트 한 번만으로 결론을 내리지 마세요.

실행 요약: 사용 가능한 설정을 보존하고 변수 하나씩 테스트하세요

구독 원본은 그대로 두고 후보 설정은 복사본으로 만드세요. 한 번에 한 항목만 바꾸고 로그로 실제 연결 경로를 확인하세요. 인증 또는 핸드셰이크 오류가 발생하면 원래 값으로 되돌려 여러 문제를 한 항목에 겹치지 않게 하세요.

Shadowrocket 다운로드