notParsec / 문서전체 문서

설명·설계 문서

Windows VM의 WebSocket 인증서 신뢰 오류

design/WEBSOCKET_TLS_TRUST.ko.md

출처: 현재 작업 폴더 · 원문 다운로드

이 문서의 목차
문서 식별 값
ID / 확인일 NP-TLS-TRUST / 2026-10-04 한국시간
대상 F04·F10 연결, F78 운영 TLS 확인; E02 자체 관리 서버, E03 Rust 구현
원본 기준 Windows Parsec 150-104a; 기존 전송 대응 기록 유지
문제 VM은 온라인으로 보이지만 연결 시 tls handshake eof 발생

1. 확인한 원인

VM의 실행 중인 앱은 빌드 1791048050, SHA-256 f6a0d925f146a40192b4dc00d1aeb94d05f1935d2ce1847afb205cffc76c03de로 당시 콘솔 최신 파일과 일치했다. 호스트 앱 창을 최대화하여 다음 실제 오류를 확인했다.

호스트 시작/실행 실패: 호스트 중계 채널 연결 실패:
IO error: invalid peer certificate: UnknownIssuer

등록·온라인 갱신용 HTTPS와 원격 연결용 WSS가 서로 다른 인증기관 목록을 사용했다.

경로 기존 설정 VM 관측
HTTPS API reqwest rustls-tls: 앱에 포함된 WebPKI 공개 루트 등록·온라인 갱신 성공
WSS 중계 tokio-tungstenite rustls-tls-native-roots: OS에서 읽은 루트 UnknownIssuer로 WebSocket 수락 전 실패
원격 PC 사이 TLS WSS 안에서 호스트 인증서를 고정해 검증 호스트 채널이 없으므로 클라이언트가 기다리다 EOF

서버 공개 인증서는 OpenSSL 검증을 통과했다. 관측한 체인은 n3m.kr → Let's Encrypt YE2 → ISRG Root YE → ISRG Root X2 → ISRG Root X1이다. 서버 leaf 유효기간은 2026-09-17~12-16 UTC, SHA-256은 57b42db49cc61f50afb6b0d33ca9d2c8c3f2ba3610eedee844b5428ddf9e9c56이었다. 특정 공개 루트가 Windows 저장소의 어느 위치에서 누락됐는지까지 단정하지 않는다.

한국시간 10월 4일 03:51:20, 03:58:49의 서버 접근 기록에는 세션 생성 후 중계 연결 하나만 약 44초 유지되다 삭제됐다. 중복 수락 409는 없었다. 로그에는 기기 ID·역할이 없으므로 이 두 시도를 VM에 단독 귀속하지 않는다. 호스트의 직접 오류와 함께 판단한다.

2. 수정 요구와 코드

요구 ID 요구 대응
TLS-R01 공개 관리 서버의 HTTPS와 WSS 모두 내장 공개 루트로 인증서를 검증해야 한다. crates/device-client/Cargo.toml에 rustls-tls-webpki-roots 추가
TLS-R02 기존 OS 신뢰 설정을 보존하고, 신뢰되지 않는 인증서와 다른 호스트 이름을 거부해야 한다. rustls-tls-native-roots 유지; 기본 rustls 검증 유지
TLS-R03 원격 TLS 실패를 확인되지 않은 앱 버전 불일치로 단정하지 않아야 한다. crates/session/src/remote.rs에서 일괄 /10 필요 안내 제거; 실제 오류 체인 보존
TLS-R04 VM 교체 시 기존 기기 등록·호스트 키·비밀번호를 보존해야 한다. 같은 C:\notparsec-console-vm 프로필 재사용·전후 확인

tokio-tungstenite 0.29의 기본 TLS 연결기는 두 feature가 켜지면 OS 루트와 WebPKI 루트를 함께 등록한다. 추가된 webpki-roots 0.26.11은 기존 1.0.9 루트를 재사용하는 호환 패키지다. 의존성 목록에 버전·출처·고지를 기록한다.

Windows 신뢰 저장소에 인증서를 추가하거나 인증서·호스트 이름 검사를 해제하지 않는다. 원격 호스트 인증서 고정, 기기 서명, 비밀번호 검사와 서버 접근 권한도 유지한다. 이 수정은 E02/E03의 독립 구현 교정이며 Parsec 원본의 신뢰 저장소 구현을 복원했다는 주장이 아니다.

3. 검증 절차

실제 제품 중계와 같은 connect_async_with_config 경로를 사용하는 crates/device-client/tests/relay_tls.rs를 추가했다.

시험 합격 조건
기존 신뢰 유지 별도 자식 프로세스에서 지정한 시험 CA의 localhost WSS 연결 성공
호스트 이름 검증 같은 인증서를 다른 IP 이름으로 접속하면 거부
신뢰되지 않는 인증서 별도 자체 서명 인증서를 UnknownIssuer로 거부
공개 서버 OS 루트가 없는 자식 프로세스에서 HTTPS·WSS의 인증서 검증을 통과하고 HTTP 인증 거절까지 도달

시험 CA는 자식 프로세스의 SSL_CERT_FILE/SSL_CERT_DIR에만 지정한다. OS 신뢰 저장소는 바꾸지 않는다. 공개 서버 시험은 인증 토큰·기기 등록·원격 세션을 만들지 않으며, 환경에 따라 HTTP 401 또는 403을 확인한다. HTTP 거절은 인증서 검증 통과의 근거이며 실제 원격 화면 성공을 뜻하지 않는다.

cargo test --locked -p notparsec-device-client --test relay_tls
cargo test --locked -p notparsec-device-client --test relay_tls -- --ignored --nocapture
cargo test --locked -p notparsec-session --tests

Windows VM에서는 교차 빌드한 relay_tls-*.exe --include-ignored --nocapture로 같은 시험을 실행한다. 새 배포 EXE의 실제 실행 경로·해시, 프로필 보존, GUI 온라인과 실제 호스트 수락은 각각 확인한다.

4. 별도로 남는 VM 그래픽 조건

이 수정의 대상은 영상 준비 이전의 중계 TLS 연결이다. 현재 QEMU 기본 VGA의 D3D11CreateDevice(VIDEO_SUPPORT) 실패는 기존 실측과 별개다. TLS 성공만으로 VM의 GPU 영상 전송·VDD·Privacy를 완료로 표시하지 않는다. 실제 업데이트·게시 결과는 아래에 기록한다.

5. 실행·게시 결과 — 2026-10-04 한국시간

항목 실제 결과
소스 6e6564e56e3b62eb90145adf7ca4ae45c96062de; 빌드 전후 clean, 입력 fingerprint cf9a3cc04f9a5749d93bf927be8572530c8e22377ae77ca7e43fc108a7bded6d
새 Windows 앱 0.1.0, 빌드 1791055091, 빌드 시각 2026-10-04 04:18:11 KST; 23,128,064바이트
EXE SHA-256 0b8584f9487033e99df807b6a78a74556bc82b3b0bc644d5763b13875a48bd77
Ubuntu 회귀 관련 7개 suite 합계 39 passed / 0 failed / 1 ignored; 공개 서버 검사는 별도 실행 성공
Windows VM 009 같은 TLS 시험 EXE의 2 passed; OS 루트가 없는 조건에서도 HTTPS=401·WSS=401까지 도달. 잘못된 이름과 신뢰되지 않는 인증서는 거부
실제 GUI 새 EXE를 일반 사용자 권한으로 실행. 등록된 VM의 online·hosting·hosting_enabled가 모두 true. 최대화한 앱 하단의 기존 UnknownIssuer 오류가 사라짐
프로필 교체 전후 device.secret·host.secret·host-cert.der 해시 일치. 기존 기기 등록과 비밀번호 유지. OS 신뢰 저장소 변경 없음
콘솔 게시 22개 검사 통과. 파일·메타데이터·업데이트 manifest 일치, Mac 보존, 관리되는 이전 Windows 묶음 제거 후 최신 1묶음 유지

전체 검증 요약, Windows 실제 실행, 게시 검사를 보존한다. 프로필 키·비밀번호·접근 토큰은 이 기록에 포함하지 않는다. 공개 운영 서버의 관리자 로그인은 사용하지 않았고, 인증된 다운로드의 바이트 확인은 설치된 서버 바이너리와 게시 파일을 읽는 임시 loopback 서버에서 수행했다.

5.1 최초 회귀 실패의 보존

첫 관련 회귀 실행은 38 passed / 1 failed / 1 ignored였다. first_capture_failure_after_ready_arrives_before_eof_and_reaches_the_client가 실패했지만 당시 assertion은 실제 오류를 출력하지 않았다. 기대값을 그대로 유지하고 실패 진단에 실제 오류를 추가했다. 이후 개별 재실행과 최종 전체 관련 suite가 통과했다. 최초 실패의 정확한 오류와 원인은 미확인으로 남기며, 이번 TLS 수정으로 그 간헐 실패까지 해결됐다고 판정하지 않는다.

5.2 사용자 재접속 확인 범위

VM 앱은 수정 버전으로 실행 중이며 콘솔 다운로드도 같은 빌드다. 사용자는 수정 뒤 재접속에서 TLS 오류 대신 GPU 초기화 오류가 나온다고 확인했다. VM 호스트에서도 Create video-capable D3D11 device: D3D11CreateDevice ... (0x887A0004)를 직접 관측했다. 이번 수정으로 연결은 영상 장치 초기화 단계까지 진행했지만 원격 영상은 아직 표시되지 않는다. 이 오류는 인코더 열거 이전의 장치 생성 실패이며, 하드웨어 인코더 부재를 직접 측정한 결과로 표현하지 않는다. QEMU 기본 VGA의 영상 장치 지원 부족, 실제 GPU의 첫 영상, VDD 배포 서명과 Privacy 물리 화면 복구는 기존 미검증 범위를 유지한다.

6. 남은 GPU 오류의 실제 원인 — 진단 010

사용자 재접속에서 발생한 GPU 오류를 추가로 조사했다. 010 결과는 호스트와 같은 MTA에서 일시적인 D3D11 장치 생성, 실제 어댑터 LUID와 출력 비교, 영상 인터페이스 질의, 어댑터별 하드웨어 인코더 열거를 수행한 결과다. 드라이버·화면·전원·신뢰 설정과 실행 중인 앱은 변경하지 않았다.

검사 실제 결과
DXGI 어댑터 0·1 모두 Microsoft Basic Render Driver; 0에 활성 화면 1개, 1에는 화면 없음
명시 어댑터 + VIDEO_SUPPORT 두 어댑터 모두 0x887A0004
기본 장치 선택 + VIDEO_SUPPORT 생성 자체는 성공. 실제 LUID는 화면 어댑터 0과 같음
생성된 장치의 ID3D11VideoDevice 모든 성공한 생성 경로에서 0x80004002 / E_NOINTERFACE
H.264·HEVC 하드웨어 인코더 두 어댑터와 실제 생성 장치의 LUID 각각에서 MFTEnum2가 성공했고 0개 반환. 열거 실패를 0개로 처리하지 않음
판정 기본 장치 선택이나 VIDEO_SUPPORT 플래그 제거만으로 현재 호스팅의 영상 경로를 충족할 수 없음

010에서 비로소 하드웨어 인코더 열거 결과까지 확인했다. 앞선 GPU 오류는 그 이전 단계에서 발생한 값이다. 현재 앱의 캡처·영상 처리·하드웨어 인코더 경로에 필요한 GPU 기능이 이 VM에 제공되지 않는다. TLS 문제와 분리하며, VDD를 설치해 화면 수를 늘리는 것으로 하드웨어 인코더가 생기지는 않는다.

동일 진단 재실행 명령은 다음과 같다. 부모 폴더는 먼저 만들고 새 출력 파일명을 사용한다.

powershell.exe -NoProfile -File .\scripts\vm\probe_guest_video_device.ps1 -OutputPath "$env:USERPROFILE\video-capabilities-new.json"

Windows API 근거: DuplicateOutput의 같은 어댑터 요구, D3D11 영상 플래그, ID3D11VideoDevice. API 문서의 일반 설명과 이 Windows VM의 실제 반환값을 구분한다.

6.1 GPU 제공에 남은 호스트 준비

읽기 전용 확인에서 Ubuntu의 Intel Alder Lake-N 8086:46d1 한 개가 i915에 연결돼 있었다. sriov_totalvfs=7이지만 sriov_numvfs=0, 생성된 VF와 mdev, VFIO 연결 장치는 없었다. PCI의 최대 VF 개수는 Windows 영상 기능이나 현재 드라이버의 준비 완료를 뜻하지 않는다.

Intel의 SR-IOV 구성 안내는 호스트 커널 준비와 게스트 드라이버 설정을 별도 작업으로 다룬다. 현재 운영 Ubuntu에 GPU 공유 구성을 적용하거나, 다른 지원 GPU를 VM에 제공한 뒤 같은 검사와 실제 원격 영상을 다시 검증해야 한다. 현재 유일한 부팅 GPU의 직접 할당은 i915에서 장치를 분리해야 한다. 이 진단에서는 운영 커널·부팅·GPU 연결을 바꾸지 않았으며 원격 영상 문제를 해결 완료로 표시하지 않는다.