[리눅스] VNC 접속 문제 해결기

오늘은 리눅스에서 VNC 서버를 설정하고, 외부에서 Ultravnc로 접속할 때 까만 화면만 나오는 문제를 해결한 경험을 공유하려고 합니다.

문제 상황

서버에서는 TigerVNC를 사용하여 VNC 세션을 띄웠습니다. GUI도 정상적으로 부팅되고, VNC 서버도 실행 중이었지만, Ultravnc 클라이언트에서 접속하면 화면이 까만색으로만 보였습니다. 서버 자체는 정상이고, 포트도 열려 있는 상태였기 때문에 혼란스러웠습니다.

원인 분석

까만 화면이 나오는 가장 흔한 원인은 VNC 세션과 실제 GUI 세션이 다르기 때문입니다. TigerVNC는 기본적으로 독립 세션을 생성합니다. 예를 들어 :2 같은 세션은 로그인 화면과 분리된 가상 X 세션입니다. 반면, Ultravnc는 실제 로그인 GUI 화면인 :0 세션을 보고 싶어합니다.

또 다른 원인은 Wayland 세션과의 호환성 문제입니다. Wayland에서는 VNC가 화면을 직접 캡처하지 못해서 까만 화면만 나올 수 있습니다.

해결 방법

1. 실제 GUI 세션 공유하기
   x0vncserver를 사용하면 현재 로그인 GUI 화면(:0)을 외부에서 볼 수 있습니다.
   • -display :0 : 로그인 GUI 화면 공유
   • -rfbport 5900 : 외부 접속 포트
   • -localhost no : 외부에서 접속 허용
2.  
   x0vncserver -display :0 -rfbauth ~/.vnc/passwd -rfbport 5900 -localhost no
3. Wayland 대신 Xorg 사용하기
   VNC는 Wayland에서 제대로 동작하지 않는 경우가 많습니다. /etc/gdm3/custom.conf 파일에서 WaylandEnable=false로 설정하고, GDM을 재시작하면 됩니다.
4.  
   sudo nano /etc/gdm3/custom.conf WaylandEnable=false sudo systemctl restart gdm3
5. 포트와 방화벽 확인하기
   VNC 포트가 열려 있어야 외부 클라이언트에서 접속할 수 있습니다. 다음 명령어로 확인하세요.
6.  
   sudo ss -tlnp | grep 5900

요약

• 까만 화면 문제는 VNC 세션과 실제 GUI 세션이 다르거나, Wayland 호환 문제일 가능성이 높습니다.
• x0vncserver를 사용해 로그인 GUI를 공유하면 Ultravnc에서 정상적으로 화면을 볼 수 있습니다.
• Wayland 대신 Xorg를 사용하고, 포트가 열려 있는지 확인하면 안정적인 VNC 접속이 가능합니다.