Esta placa é um pouco antiga, e não sei como anda o suporte dela para essa função, normalmente as placas mais antigas não tem suporte nativo a HDMI, necessitando de "gambiarras" que normalmente não permitem a transferência de som ou imagem em alta-resolução. Pode ser esse o seu caso, todavia vale dar a pena dar atulizada nos drivers, caso ainda não tenha feito isso.
Evite mexer no arquivo xorg.conf, nas últimas versões ele está lá apenas para enfeite ou suporte à aplicações antigas, o correto mesmo para alterar a resolução "no braço" é alterar os parâmetros do EDID ou modificar no painel de controle da NVidia.