As you probably know, RGBA transparency was planned to be released with Ubuntu 10.04 LTS Lucid Lynx but it eventually didn't made it because of some issues such as various applications crashing and so on.
Veja que quando baixou no site dizia que poderia ocorrer crash em vários aplicativos.
Legal vai ser implementado no Ubuntu 10.10, quando chegar eu vou instalar porque algo que sempre faltou ao gnome era isso janela transparentes.
Apenas aplicações GTK + apoio à transparência RGBA. Isso significa que o Firefox, Thunderbird, Songbird, OpenOffice ou Chrome não terá qualquer transparência. O mesmo vale para GlobalMenu. Skype ou o Google Earth Qt usar de modo que não irá trabalhar para eles também. Inkscape, Gnome Shell e Totem foram penalizadas devido a bugs que eles não vão RGBA. Isso não significa RGBA não irá funcionar a nível global, significa apenas que essas aplicações não serão transparentes.
Quanto ao seu problema é alguma configuração no nautilus que você fez.
Se continuar assim vai detonar seu ubuntu,kkk!! Prefiro ele sem efeitos visuais, que é para não dar problema algum.