Belajar Remote Desktop - Troubleshooting Koneksi VNC/RDP

#Pendahuluan

Tidak peduli seberapa rapi konfigurasi kalian, suatu saat koneksi akan gagal. Episode 20 melatih kalian menjadi detektif: membaca gejala, memeriksa lapisan yang tepat, dan menyelesaikan masalah dengan langkah yang berurutan — bukan dengan menebak-nebak.

Kalian akan mempelajari alat diagnosis utama (ss -tulpn, firewall, vncserver -list, journalctl), uji client-server yang benar, lalu peta solusi untuk empat masalah paling umum: black screen, korupsi warna, refresh lambat, dan input yang tidak bekerja.

#Diagnosis Lapisan Jaringan

#Memeriksa Port dengan ss

Langkah pertama selalu memastikan bahwa service benar-benar mendengarkan di port yang diharapkan:

ss -tulpn | grep -E ":(5900|5901|3389)"

Perintah ss -tulpn | grep -E ":(5900|5901|3389)" menampilkan proses yang mendengarkan di port VNC dan RDP. Jika port tidak muncul, service mati atau gagal start — lanjut ke pemeriksaan service.

#Memeriksa Firewall

Jika port muncul tapi koneksi tetap gagal, curigai firewall. Periksa status aturan di kedua sisi:

sudo ufw status verbose
sudo firewall-cmd --list-all

Ingat dari episode 16: uji dari mesin lain, bukan dari server itu sendiri. nc -zv adalah alat paling cepat untuk memisahkan masalah jaringan dari masalah aplikasi:

nc -zv 192.168.1.20 5901

#Diagnosis Lapisan Server

#Memeriksa Session VNC

Untuk TigerVNC, lihat daftar session yang berjalan:

vncserver -list

vncserver -list menampilkan display aktif. Jika display yang diharapkan tidak ada, session gagal dibuat — penyebab umumnya xstartup atau password.

#Membaca Log dengan journalctl

Service systemd menyimpan semua log di journal. Untuk service yang aktif, baca log-nya secara live:

journalctl -u vncserver@:1 -f

Untuk x11vnc dan xrdp, ganti nama unit sesuai service masing-masing. journalctl -u vncserver@:1 -f menampilkan baris log baru saat muncul — cara terbaik melihat error yang terjadi tepat saat koneksi dibuka.

#Log Session TigerVNC

Session VNC yang dijalankan manual menulis log ke ~/.vnc/:

tail -20 ~/.vnc/host:1.log

Error seperti "unable to connect" atau "Authentication failed" hampir selalu muncul di sini sebelum kalian menebak penyebabnya.

#Uji Client-Server yang Benar

#Urutan Pemeriksaan Lengkap

Ketika semuanya gagal, jalankan urutan ini dari mesin client:

ping -c 3 192.168.1.20
nc -zv 192.168.1.20 5901
vncviewer 192.168.1.20:5901

• ping gagal → masalah jaringan atau routing.
• ping sukses, nc gagal → port tertutup (firewall atau service mati).
• nc sukses, viewer gagal → masalah autentikasi atau protokol.

Perintah nc -zv menjadi penanda paling penting: begitu port menerima koneksi TCP, masalah sudah bukan di jaringan.

#Masalah Umum dan Solusinya

#Black Screen

Layar hitam saat terhubung hampir selalu berasal dari dua sumber: masalah display atau masalah autentikasi.

• Untuk x11vnc: pastikan -display dan -auth guess benar, dan display yang di-share benar-benar aktif.
• Untuk TigerVNC: cek ~/.vnc/xstartup — file harus executable dan memanggil desktop yang terinstall.
• Untuk xrdp: coba sesi Xorg alih-alih sesi desktop penuh.

echo $DISPLAY
ls -la ~/.vnc/xstartup

#Korupsi Warna

Warna yang salah atau tampak "rusak" biasanya akibat ketidakcocokan depth antara server dan viewer. Setel depth eksplisit di kedua sisi:

vncserver -kill :1
vncserver :1 -geometry 1920x1080 -depth 24
vncviewer 192.168.1.20:5901

Jika warna masih salah setelah depth disetel, coba encoding lain di viewer — kadang encoding tertentu di komputer lama merender warna tidak sempurna.

#Refresh Lambat

Layar berjalan tapi refresh terasa patah-patah. Penyebab dan solusinya:

• Matikan efek kompositing di desktop (episode 19).
• Turunkan kualitas dan depth untuk koneksi WAN.
• Aktifkan caching dengan -ncache 10 di x11vnc.
• Periksa CPU server — kompresi Tight yang berat bisa membuat server kewalahan.

#Input Tidak Bekerja

Kursor tampil tapi klik dan ketikan tidak berefek. Kemungkinan penyebab:

• Koneksi dalam mode view-only — cek password view-only dan enable-view-only.
• Keyboard layout tidak cocok — atur dengan setxkbmap (episode 11).
• Event input tidak sampai karena server sibuk — periksa log service.

x11vnc -display :0 -rfbauth /etc/x11vnc.pass -viewonly

Jika server sengaja dijalankan dengan -viewonly, semua koneksi hanya bisa melihat. Hapus opsi itu untuk mengizinkan kontrol kembali.

#Penutup

Episode 20 melatih diagnosis sistematis: memeriksa port dengan ss -tulpn dan firewall, memantau session dengan vncserver -list dan journalctl, menjalankan uji client-server yang benar, serta menyelesaikan black screen, korupsi warna, refresh lambat, dan input yang tidak bekerja.

Inti yang harus dibawa pulang:

• Mulai dari ss -tulpn, lalu uji dari client dengan nc -zv.
• vncserver -list dan journalctl mengungkap masalah di sisi server.
• nc sukses berarti masalah berpindah dari jaringan ke aplikasi.
• Black screen berasal dari display/auth atau xstartup yang bermasalah.
• Warna rusak berarti depth server dan viewer tidak cocok.
• Input mati sering berasal dari mode view-only atau layout keyboard.

Di episode 21 selanjutnya kita melihat masa depan: tool modern dan roadmap — TigerVNC 1.16 dengan w0vncserver, x11vnc 0.9.17, TightVNC 2.8.88, dan GNOME Remote Desktop 50.x, lengkap dengan peta migrasi dari tool lama. Sampai jumpa!