Bom, vou considerar "tamanho" como "modelo..." 
As nVidia GeForce são ideais, mas as ATI também são excelentes. Outras também pegam bem com compiz, a exemplo das placas Intel (não sei se todos os modelos).
Se tiver aceleração 3D, uma placa dentro desses modelos indicados iguais ou superiores a 256mb (em geral), ou seja, não quer dizer que uma placa de video com memória 128mb funcione. Como eu li num blog.
256MB? Imagina! Eu rodo o cubo com uma GeForce 6200 128MB AGP. Os efeitos do compiz-fusion rodam em GeForce 440 (série 4) tranquilamente. E, à propósito, essa coisa de memória de vídeo é secundária nesse caso. O que importa é que os efeitos do compiz-fusion vão funcionar em 99% das nVidia (talvez até nas série 2) e pelo menos em 75% das ATI (porque algumas dão problemas com o driver). Também funciona em quase todos os vídeos Intel integrados mais recentes (com a devida instalação do driver adequado) e em boa parte dos VIA recentes. É mais uma questão de GPU e drivers que de memória. É claro que alguns efeitos podem dar "lag" se o usuário pegar pesado com a definição em placas mais precárias. Mas pelo menos o cubo e uma janelas moles você roda em praticamente qualquer coisa - desde que tenha ~1,5GHz de processador, pelo menos.
O que é certeza é que em vídeo integrado SiS, o 3D não rola.
