É vamos recapitular. Mini tutorial:
-Baixe e instale o virtualbox, ele é um programa, que funciona no windows, é só fazer o de sempre clica no .exe, next,next,install...
Ele vai servir para rodar o ubuntu dentro do windows, mas você pode usar ele para rodar qualquer sistema, por exemplo, você pode usar ele para rodar o vista, o xp, o 95.
-Baixe a .iso do ubuntu no site ubuntu.com, não é para usar winrar no .iso.
-Verifique o md5sum.
-Abre o virtualbox e por ele faça a instalação. Olhe um exemplo aqui:
http://www.guiadohardware.net/tutoriais/virtualbox/pagina2.html não é exatamente a mesma coisa mas o uso no windows é parecido.
.iso é uma extensão que no seu computador pode estar associada ao winrar, isso não importa, se você baixou do ubuntu.com pode ter certeza que é .iso.
-----
Novamente, certifique-se de baixar uma versão compatível com seu windows, se ele é 32bits baixa o ubuntu 32 bits, se ele é 64bits baixa a versão 64bits.
Outra coisa, se você está achando muito complicado, talvez, seja melhor testar como livecd. É só verificar o md5, gravar em um cd, configurar a bios para boot no cd e testar.