Isso tá parecendo problema com desempenho de vídeo. Desativa o compiz aí, de repente pode dar uma aliviada. O meu vídeo também não consegue reproduzir mp4 e mkv em alta resolução por causa do desempenho de vídeo ruim e no meu caso nem desligando o compiz resolveu, espero q vc tenha melhor sorte.