Precisaria das especificações do monitor, principalmente as frequências horizontal e vertical. Mas, acho que antes você poderia fazer um teste. Em Section "Screen", na linha Modes, experimente remover a resolução "800x600@60", ou colocá-la depois da resolução "1280x800@60", que acredito que seja a resolução nativa do monitor, e não antes, como está agora.