Ah, nesse caso é bem simples. Basta você clicar com o direito do mouse sobre o arquivo de vídeo e escolher "Propriedades". Na aba "Abrir com", você seleciona o VLC e pode fechar. A partir daí, todos os vídeos com aquela extensão abrirão com o VLC. Se você clicar com o direito e for direto em "Abrir com...", o vídeo abrirá no VLC apenas naquele momento, não fazendo deste o player padrão para aquela extensão. Essa é a grande diferença do "Abrir com" das Propriedades: ele registra a extensão para aquele player especificado.