A pergunta não foi exatamente respondida... também tenho essa dúvida.
Estou tentando fazer com que ao clicar em links com m3u, abra no XMMS, pois no programa padrão (Reprodutor de filmes), não é compatível.
Consegui abrir salvando-o numa pasta e clicando em "Abrir com", só que isso não altera a preferência pra se abrir sempre nele.
Portanto retorno a pergunta:
Como mudar o programa padrão de uma determinada extensão?