Pessoal, nao precisa instalar conversor de Windows. Os para GNU/Linux são melhores.
A diferença é a falta de documentação para usa-los.
Mas, achamos apos a procura.
RMVB, AVI ou MKV, são conteiners e nao formatos de video, porque no caso aí é a conversão de RV40/Cook (no qual o RMVB é o conteiner padrao) para algum Xvid, Divx, H264 (podendo escolher Mp3, Ac3 e um monte de codec de audio para eles), daí podendo escolher o AVI, MKV ou outro conteiner. O MKV é o melhor, suportando até a Real Media substituindo assim o RMVB.
O problema do RV40 é que ao converter p/ outro formato de video, perde a qualidade...é problematico mesmo. Mas, no Linux (ou até mesmo no Windows) se pode converter para outro quase sem perdas...É só configurar a taxa de bits/s (o bitrate) para um valor mais alto. O Xvid e H264 são as melhores opções, principalmente um codec com mais compressão para nao diferenciar muito da compressão do RV40, aí eu recomendo o H264. Neste caso, usamos o x264 no Ffmpeg, que precisa ser compilado com suporte à ele.
No Wine eu tenho o Easy Real Media Tools, que converte videos para RV40/Cook (RMVB), que vem com o Editor V1.73 e o Producer V1.94, funcionando certinho, porem foi mais pra teste mesmo, já que me aderi ao superior H264, onde consegue comprimir melhor que o RV40.
O Producer para Linux só serve pra videos pequenos, pq ele precisa de videos descomprimidos, daí substituí pelo Easy Real Media Tools via CrossOver/Wine.
Abraço!