A forma como você particionou os dois abre a possibilidade de corrupção das partições. Você não deve usar partições estendidas, a menos que necessite particionar o HD em mais de quatro partições.
A resposta do fdisk -l revela que o sistema percebe como bootável a partição /dev/sda1. Então, se instalação em /dev/sdb1 foi feita corretamente, você poderia tentar carregar o sistema selecionando na bios a prioridade de boot para o HD montado em /dev/sda (procure perceber diferenças entre eles, como marca).
Assim, se o sistema instalado em /dev/sda1 for carregado, por ele, com um sudo upgrade-grub , você conseguiria faze com que a instalação do segundo HD fosse reconhecida.
Aqui eu uso Três HDs, sendo dois IDE de 20GB e um Sata de 320GB. No primeiro HD eu tenho o MacOSX e uso o gerenciador de boot dele para controlar o sistema. O que percebi é que diferentes distros Linux usam diferentes versões do grub e isso gera conflitos.
Para solucionar isso eu escolho um disco como padrão (no meu caso o do Mac) e depois instalo as distribuições (já usei ao mesmo tempo ubuntu, debian e fedora, aleḿ do windows), só que eu procuro instalar o grub na partição (/dev/sda1,2 ou 3) em vez da MBR (/dev/sda). Com isso evito um monte de conflitos e deixo selecionado na bios o HD IDE como sendo prioridade de boot.
No seu caso, verifique qual é o HD sda e na instalação do sistema em sdb, instale o grub dele na partição sdb1 (aliás, se tiver que formatar e fazer de novo, não use partições estendidas)