Esse assunto de um compilador não vir instalado no Ubuntu tem sido várias vezes discutido pelos seus programadores.
A principal argumentação é que a maioria dos utilizadores não precisa de utilizar compiladores (O ubuntu é orientado a utilizadores "normais"), alem disso a inclusão do compilador torna o sistema mais inseguro, a maior parte das falhas de segurança local necessitam de um compilador para gerar o programa.
Não concordo muito com a paranóia da segurança como motivo de não incluir o compilador, mas prontos, eles é que sabem
De qualquer forma um programador deve saber instalar o compilador na distribuição que utiliza...