さくらのVPSのVNCコンソールが使えない

さくらのVPSのVNCコンソールに接続しようとしたら、 code: 1006 のエラーで接続できない。
何度やってもエラーになる。

Server disconnected (code: 1006)

VNCなので、都度ポート番号が変わるようで、インターネットのゲートウェイのFirewallの設定で許可されていなかった。
スマホのテザリングで接続したら、ちゃんとVNCの画面が表示できた。