Uso muitos arquivos com a extensão .eps (criados a partir do inkscape, do Dia e de outros programas) e o Nautilus visualiza normalmente. Vez por outra pode aparecer um arquivo (não necessariamente eps) que faça o nautilus "travar". Na verdade ele começa a comer mais e mais RAM tentando visualizar o arquivo. A solução é matar o nautilus (pkill nautilus em um terminal).
Acho que deve ser alguma coisa no arquivo que o nautilus não consegue interpretar direito e entra em algum loop, mas certamente o nautilus deveria ter alguma proteção contra isso, para caso a visualização comece a comer muitos recursos do sistema ele simplesmente desabilite para aquele arquivo.