なんと、Ｘサーバー（レンタルサーバーのじゃないよ）をWindowsに入れて使うやつのほかに、XRDPという、外部から接続して使う形のLinuxのGUIシステム（っていうんだっけ？）が存在するらしい。
ので、さっそく使ってみました。
インストール方法はこちらを参考にしました。ありがとうございました。
ログインのUIはこんな感じ。なんか昔のWindows（クラシックテーマ）っぽい？
UIはXfceではこんな感じです。いたってデフォルト。
一応、Raspberry Pi版もあるらしいので、今度やってみようかなと。
これがあれば、必要な時だけGUIが使えますね。まあ、あんまり使わないだろうけど。
あと、FireFoxを使おうとしたら落ちました。