わかるようなわからないような感じだったのでメモ。
まず、基本的なやり方としては下ので良い。
Ubuntu日本語フォーラム / CUIでの起動、ログインについて
$ sudo systemctl set-default multi-user.target
ただし、このコマンドを打ってrebootしてみたら起動中に固まってしまった。たぶん、外部メディアでブートして適当に直せばリカバリできたんだろうけど、そこまで思いつかなかったので、再インストールした（インストール直後にいじってたので、特に失うものがなかった）。
要は、このコマンドだけ打っても、まだXサーバに仕事を投げるつもりで動いてる奴がいる（grub）ので、そいつを黙らせないといけないんだと思う（細かいことは僕にはわかりません）。黙らせるには、/etc/default/grubを編集。
#GRUB_CMDLINE_LINUX_DEFAULT="quiet splash" GRUB_CMDLINE_LINUX_DEFAULT="text"
そしてこのコマンドを打つ。
$ sudo update-grub
この段階でrebootしたら意図した通りCLIで立ち上がった。後は好きなだけCLIでいじって、GUIがほしくなったらstartxでもすれば良いんだと思う。GUIで立ち上がってほしいなら、上記設定項目を初期状態に戻せば良いものと考えられる。