v2rayN 코어 실행 오류 해결: Xray 로그로 설정 문제 찾기

1. 코어 종료와 네트워크 요청 실패 구분하기

v2rayN은 관리 인터페이스이고, Xray는 프록시 설정을 실행하는 코어입니다. 인터페이스가 열린다고 코어까지 정상 실행된 것은 아닙니다. 반대로 특정 웹사이트의 연결 시간이 초과됐다고 해서 코어 시작에 실패한 것도 아닙니다. 코어 시작 문제라면 로컬 설정과 실행 환경을 확인하고, 요청 실패라면 노드, DNS, 원격 연결 경로를 점검해야 합니다.

화면에 표시된 마지막 메시지만 보고 판단하지 마세요. 먼저 메인 창의 정보 또는 로그 영역을 열어 이전 기록을 지운 다음, 현재 활성 설정을 재시작하거나 다시 실행하고 설정 읽기부터 프로세스 종료까지의 로그를 연속으로 보관하세요. 로그 메뉴 이름은 배포 버전에 따라 다를 수 있으므로 실제 인터페이스를 기준으로 확인해야 합니다.

• 시작 단계 오류: 로그에 설정 분석 실패, 리소스 파일 열기 실패, 수신 주소 바인딩 실패가 표시된 뒤 프로세스가 종료됩니다. 이 경우 노드를 바꿔도 로컬 오류는 해결되지 않습니다.
• 실행 단계 오류: 코어는 계속 실행되지만 요청을 보낸 뒤 연결 시간 초과, 연결 거부 또는 핸드셰이크 실패가 발생합니다. 먼저 요청이 어떤 아웃바운드로 전달됐는지 확인한 뒤 서버 매개변수를 점검하세요.
• 코어가 실행되지 않은 상태: 인터페이스에 실행 파일을 찾을 수 없거나 프로세스를 만들 수 없다는 메시지가 표시되고 Xray 자체 출력은 없습니다. 이 경우 코어 경로, 파일 격리 여부, 실행 권한부터 확인하세요. 라우팅 규칙부터 수정할 필요는 없습니다.

2. 로그 단계와 오류 흐름으로 원인 찾기

Xray 로그 설정에는 보통 debug, info, warning, error, none이 사용됩니다. none은 일반 로그 출력을 끄는 설정이므로 임시 점검에는 적합하지 않습니다. 일반적인 확인에는 info를 사용하고 요청 경로가 불분명할 때만 잠시 debug로 높이세요. 점검이 끝나면 원래 설정으로 되돌려 연결 세부 정보가 과도하게 쌓이지 않도록 합니다.

관련 옵션을 제공하는 v2rayN 버전에서는 「설정」→「매개변수 설정」에서 로그 관련 항목을 찾아 저장한 뒤 현재 설정을 다시 시작할 수 있습니다. 사용자 지정 JSON을 쓰는 경우에는 인터페이스 설정이 JSON을 덮어쓴다고 단정하지 말고 파일의 log 섹션도 확인하세요. 설정을 분석하는 단계에서 발생한 오류는 프로세스 콘솔에만 출력될 수도 있으므로 인터페이스의 코어 출력도 함께 보관해야 합니다.

오류 흐름에서는 여러 문맥이 >로 연결되는 경우가 많습니다. 아래는 전형적인 구조를 보여주는 예시이며, 실제 모듈 접두사와 문구는 코어 버전에 따라 달라질 수 있습니다. 바깥쪽 메시지는 ‘로드 실패’를 설명하고, 안쪽 메시지는 ‘설정 내용을 읽지 못함’을 가리키며, 가장 안쪽에 문법 오류의 직접적인 단서가 나옵니다.

Failed to start: main: failed to load config files: [config.json]
> infra/conf/serial: failed to read config file
> invalid character '}' looking for beginning of object key string

3. 포트 충돌: 수신 주소와 점유 프로세스 확인

로컬 인바운드는 주소와 포트에 바인딩해야 합니다. 두 프로세스가 같은 수신 지점을 동시에 사용하는 것은 일반적으로 불가능합니다. 중복 실행된 코어, 다른 프록시 프로세스, 같은 설정 안에 중복 정의된 인바운드가 충돌을 일으킬 수 있습니다. 로그에 나온 실제 포트를 확인하고 튜토리얼의 기본값을 추측해 사용하지 마세요.

아래 명령은 PowerShell에서 예시 포트 10808의 TCP 수신 프로세스를 확인합니다. 먼저 프로세스 이름과 경로를 확인한 다음 종료 여부를 결정하세요. 프로세스 번호만 보고 강제 종료하지 마세요.

Get-NetTCPConnection -State Listen -LocalPort 10808 |
  Select-Object LocalAddress, LocalPort, OwningProcess

Get-NetTCPConnection -State Listen -LocalPort 10808 |
  ForEach-Object { Get-Process -Id $_.OwningProcess } |
  Select-Object Id, ProcessName, Path

1. 점유 프로세스가 이전 Xray 실행 파일이라면 해당 클라이언트에서 정상 종료하세요. 프로세스가 끝난 것을 확인한 뒤 v2rayN을 다시 시작합니다.
2. 계속 실행해야 하는 다른 프로그램이 포트를 사용 중이라면 로컬 인바운드 설정에서 비어 있는 포트를 선택하세요. 사용자 지정 설정을 쓰는 경우 모든 inbounds도 확인해 포트가 중복 바인딩되지 않았는지 점검해야 합니다.
3. 포트를 변경한 뒤 브라우저의 수동 프록시 설정과 시스템 프록시가 여전히 이전 포트를 가리키는지 확인하세요. 코어가 정상 시작돼도 앱이 이전 포트에 연결하면 다른 유형의 연결 오류가 발생합니다.
4. forbidden by its access permissions 메시지가 나와도 포트 충돌이라고 단정할 수는 없습니다. netsh interface ipv4 show excludedportrange protocol=tcp로 시스템 예약 범위를 확인하고 보안 정책도 함께 점검하세요.

4. JSON 문법 오류: 실제 시작 파일부터 테스트하기

노드 편집 화면에서 저장에 성공했다고 사용자 지정 조각까지 모두 유효한 설정으로 합쳐지는 것은 아닙니다. 흔한 오류로는 마지막 항목 뒤의 불필요한 쉼표, 따옴표 대신 입력한 스마트 따옴표, 닫는 따옴표가 빠진 문자열, Windows 경로의 백슬래시를 JSON 문자열에 그대로 입력한 경우가 있습니다. 경로에는 슬래시를 사용하거나 문자열 안의 백슬래시를 \\로 입력하세요.

Xray 실행 파일이 있는 폴더에서 PowerShell을 열고, 이번에 실제로 사용하는 설정 사본의 이름을 config.json으로 지정한 다음 아래 명령을 실행하세요. 파일이 다른 곳에 있다면 실제 전체 경로를 사용해야 합니다. 오래된 백업 파일만 테스트해서는 v2rayN이 방금 생성한 시작 설정을 검증할 수 없습니다.

.\xray.exe version
.\xray.exe run -test -config .\config.json

run -test는 현재 코어가 설정을 불러올 수 있는지 확인하는 명령입니다. 정상적인 포트 수신 테스트나 원격 연결 테스트를 대신하지는 않습니다. 수동 테스트에서는 클라이언트와 동일한 리소스 디렉터리 및 환경 변수를 사용해야 합니다. 그렇지 않으면 테스트에서 geo 파일을 찾지 못해도 클라이언트 시작 시에도 못 찾는다는 뜻은 아닙니다. 자동 생성 파일은 다음 시작 때 덮어써질 수 있으므로 최종 수정은 노드 편집 항목, 라우팅 설정 또는 사용자 지정 설정 원본에 반영하세요.

5. geo 파일 누락: 파일 경로와 규칙 분류 확인

geoip:private와 geosite:cn은 설정에 적었다고 자동으로 적용되는 일반 텍스트가 아닙니다. 관련 규칙을 불러올 때 Xray는 해당 데이터 파일을 읽어야 합니다. 파일 누락, 잘못된 실행 디렉터리, 잘못 지정된 리소스 경로, 존재하지 않는 분류로 인해 설정을 구성하지 못할 수 있습니다. JSON만 다른 디렉터리에 복사하면 필요한 파일을 빠뜨리기 쉽습니다.

• 먼저 실제로 참조된 경로를 확인하세요: 로그에 표시된 경로를 기준으로 판단해야 합니다. 다운로드 폴더에 같은 이름의 파일이 있다는 이유만으로 필요한 파일이 모두 있다고 볼 수는 없습니다.
• 다음으로 리소스 설정을 확인하세요: 사용자 지정 실행 환경의 XRAY_LOCATION_ASSET 값은 리소스 검색 위치에 영향을 줍니다. 의도한 디렉터리를 가리키는지 확인하세요.
• 파일과 분류를 구분하세요: ‘파일을 찾을 수 없음’과 ‘파일에 지정된 분류가 없음’은 서로 다른 문제입니다. 후자의 경우 분류 이름을 수정하거나 해당 분류가 포함된 데이터 원본을 사용해야 합니다. 같은 파일을 반복해서 복사해도 해결되지 않습니다.
• 필요한 파일만 복구하세요: 클라이언트의 리소스 업데이트 기능을 사용해 필요한 파일을 복구하세요. 관련 규칙을 잠시 제거해 원인을 분리해 볼 때는 먼저 사본을 저장하고, 테스트 후 기존 라우팅 의도를 복원하세요.

6. 필드 이름과 구조: 유효한 JSON도 설정 오류일 수 있습니다

JSON 문법 검사를 통과했다는 것은 괄호와 따옴표 등의 구조를 읽을 수 있다는 뜻일 뿐, 필드 위치와 값이 올바르거나 코어 기능과 호환된다는 의미는 아닙니다. 특히 복사한 설정 조각이 어떤 코어의 설정 형식인지 확인하세요. v2rayN 인터페이스 설정과 Xray 기본 JSON은 형식이 다르므로 인터페이스 설정 파일을 그대로 Xray에 전달해 실행할 수 없습니다.

라우팅을 예로 들면 domainStrategy는 routing에 속하며 rules 안의 개별 규칙에 속하지 않습니다. 아래는 라우팅 조각만 보여주는 예시입니다. 전체 설정에 direct라는 이름의 직결 아웃바운드가 정의되어 있고 필요한 geo 데이터를 읽을 수 있다고 가정합니다. 단독으로 시작할 수 있는 완전한 설정은 아닙니다.

{
  "routing": {
    "domainStrategy": "IPIfNonMatch",
    "rules": [
      {
        "type": "field",
        "ip": ["geoip:private"],
        "outboundTag": "direct"
      },
      {
        "type": "field",
        "domain": ["geosite:cn"],
        "outboundTag": "direct"
      }
    ]
  }
}

• 대소문자 확인: outboundTag와 임의로 바꿔 쓴 필드 이름은 서로 같지 않습니다. 아웃바운드 태그 값도 정의된 내용과 일치해야 합니다.
• 자료형 확인: rules는 배열이어야 합니다. 규칙의 domain, ip는 각 필드 요구사항에 맞게 입력하세요. 다른 소프트웨어용 규칙 텍스트를 JSON에 그대로 붙여 넣지 마세요.
• 버전별 기능 확인: xray.exe version의 실제 출력을 기록하고 사용 중인 전송 및 보안 필드가 해당 코어에서 지원되는지 확인하세요. 클라이언트 창 제목만 보고 코어 버전을 추측하지 마세요.
• 적용 여부 확인: 일부 알 수 없는 필드는 반드시 오류를 내는 대신 무시될 수 있습니다. 설정 테스트에 성공한 뒤에도 실행 로그와 요청 결과를 통해 규칙이 실제로 적용됐는지 확인해야 합니다.

7. 수정 후 검증 및 자주 묻는 질문

한 번에 명확한 문제 하나만 수정한 뒤 다시 시작하고 새 로그를 보관하세요. 코어 업그레이드, 포트 변경, 라우팅 수정, 노드 교체를 동시에 하면 연결이 복구돼도 어떤 조치가 효과가 있었는지 알기 어렵습니다. 복구를 확인한 뒤에는 임시로 높인 로그 단계를 원래대로 되돌리고 정상 작동하는 설정 사본을 저장하세요.

1. 설정 검증: 현재 코어로 실제 설정을 테스트했을 때 읽기, 필드, 리소스 로드 오류가 더 이상 발생하지 않습니다.
2. 프로세스 검증: 정상 시작 후 프로세스가 계속 실행되고 예상한 로컬 포트가 수신 대기 상태를 유지합니다. 시작 직후 종료되지 않아야 합니다.
3. 요청 검증: 앱이 새 포트를 사용해 대상에 접속하도록 설정하고, 로그에서 요청이 코어에 도달했는지 확인한 뒤 새로운 원격 연결 오류가 발생하는지 살펴보세요.
4. 설정 유지 검증: v2rayN을 종료한 후 다시 열어 수정 내용이 자동 생성 설정에 덮어쓰이지 않았는지 확인하세요.