Você provavelmente quer um cluster de servidores.
Hoje eu não te recomendo fazer isso, pq dá um trabalho cão e o resultado é sempre "marromenos".
Minha sugestão... em vez de tentar espelhar seu servidor Ubuntu, instale dois servidores de máquina virtual [sugestão: XenServer], coloque-os em modo HA-cluster, e ponha o seu Ubuntu como máquina virtual dele.
Assim você deixa toda a complexidade de configurar e controlar o cluster para o hipervisor, e cuida do que te interessa, que são os serviços e aplicativos do teu servidor.
Enviado do meu smartphone