O autor do software resolveu o problema. E o motivo do programa não abrir não era o java (apesar da mensagem de erro informar sobre a não localização do Java), mas o fato do programa não vir com a permissão de execução. Com o comando chmod é possivel ver isso...para solucionar o problema o código é:
chmod a+x FileName(no caso virtmus) nbexec ou seja,
chmod a+x bin/virtmus plataform/lib/nbexec
e para rodar o programa:
./virtmus
Recomendo o Virtmus. É muito bom não precisar imprimir tudo o que se vai tocar, com esse programa posso visualizar toda a partitura na tela do computador.