Alguma mensagem aparece quando você roda no terminal?
Das resolução que propus, talvez a mais importante seja mesmo mudar pra 24 DefaultDepth no xorg.conf.
Depois de ter mudado para Cópia em Caminho da Renderização, mudei de novo para Automático e funcionou perfeitamente.
Talvez seja o caso de você apagar os arquivos .emerald e .beryl (se existir) no seu Home, instalar o Beryl novamente, daí então modificar pra 24 no xorg.conf e digitar $ emerald --replace & no terminal depois de lançar o Beryl.
Veja se dá certo sem reinstalar, só apagando os arquivos da Home e diga o que aconteceu.