bem, eu tbm sou novato no ubuntu e uso a versão 8.04 com uma placa de vídeo radeon x1050, ao tentar instalar o driver sempre tive problemas para instalar o driver, porém com o driver default VESA já é o suficiente para rodar os efeitos do compiz (o qual vc citou), parece q a intalação do driver realmente só é preciso caso a aceleração 3d openGL
(não tenho certeza) seja necessária para rodar algum aplicativo em específico (jogos na maioria das vezes), mas para usar somente os efeitos está ótimo, eu tentarei instalar o driver ati só se for realmente necessário ou se for lançada uma versão estável do driver (é uma pena uma placa tão boa ainda não ter um driver para linux à altura), ainda falando sobre a placa de vídeo eu testei uma versão alfa do 8.10 com a minha radeon x1050 e tbm consegui ativar os efeitos sem a instalação do driver ati, porém não sei se esta versão já contava com o xorg 7.4 como citado
Use tente a 8.04, pelo que eu estou vendo o drive da ati esta com um pouco de conflito com o Xorg 7.4 (que é o que vem no ubuntu 8.10) mais espero que a ati se comprometa de tirar esse conflito rápido (eu tenho um note com a HD2400) para eu poder usar o driver deles sossegado
estou digitando este tópico em uma máquina com ubuntu 8.04 e uma placa de vídeo radeon 9100 onboard tbm com os efeitos habilitados sem problemas
verifique assim q vc instalar se em Sistema>Preferencias>Aparencia se vc consegue deixar no extra sem mensagem de erro ou então é só dar uma olhada no menu se assim q clicar está ativado o esmaecimento, com isso já será possivel configurar os demais efeitos
espero q vc solucione seu problema o mais rápido possível e se torne mais um usuário fiel do ubuntu