Estive com o mesmo problema.
Decidi atualizar meu ubuntu 10.04 para 10.10. Para evitar maiores problemas, fiz isto no virtual box.
Até a reinicialização correu tudo perfeitamente bem. O upgrade foi concluído, e fui solicitado a reiniciar a máquina.
Daí em diante, meu ubuntu da máquina virtual só inicializa em modo texto.
Logo após a tela gráfica do Ubuntu 10.10, o sistema retorna para o modo texto com a seguinte mensagem:
"Starting the VirtualBox Guest Additions ...fail!
(modprobe vboxguest failed)..."
No meu caso, removi o arquivo xorg.conf que se econtrava na pasta /etc/X11/
reiniciei a máquina virtual e consegui voltar ao ambiente gráfico, porém em resolução 800X600.
Então, reinstalei o Adicional para convidado do VirtualBox e reiniciei a máquina virtual novamente.
Sou meio leigo no mundo linux, mas se vc postar a mensagem de erro que aparece para você, talvez eu possa te ajudar.