Ih rapaz, a parte da compressão eu nem faço idéia, na verdade eu nem ligo para o tamanho final do vídeo. Hehehehe, eu falo assim como se trabalhasse com conversão de vídeo, mas o fato é que eventualmente eu utilizo esse tipo de aplicação. Quanto ao mkv, eu sequer sei que tipo de formato é esse, acontece que às vezes eu baixo uns animes por aí que vem com essa extensão, aí fuçando daqui, fuçando dali eu esbarrei com o mencoder, que converte não somente mkv, mas praticamente todo tipo de formato.
Como mencionei, não entendo a parte de compressão, mas recomendo instalar o mencoder e dar uma lida no manual dele (é grande pra chuchu!), deve haver parâmetros para otimizar a compressão. Aqui eu utilizo uma sintaxe básica que mantém a mesma qualidade do vídeo, mas o tamanho aumenta consideravelmente:
mencoder <arquivo de entrada> -oac lavc -ovc lavc -of mpeg -mpegopts format=dvd -vf
pp=lb,scale=720:480,harddup -srate 48000 -af lavcresample=48000 -lavcopts
vcodec=mpeg2video:vrc_buf_size=10000:vrc_maxrate=9800:vbitrate=5000:keyint=18:acodec=ac3:abitrate=192
-ofps 30000/1001 -o <arquivo de saída>
E quando eu digo aumentar o tamanho consideravelmente, significa aumentar umas 4 vezes. Com isso um vídeo de 300 MB fica em torno de 1,2 GB. Se alguém souber valores melhores para compressão, ou mesmo programas que não tiram a qualidade do vídeo, compartilhem conosco