Recomendaria assim então
1º instale o ubuntu server LTS edition na primeira maquina (hostname = fileserver)
2º instale o ubuntu server LTS edition na segundamaquina (hostname = dns)
3º instale o ubuntu server LTS edition na terceira maquina (hostname = backup)
4º configure endreços IP's fixo nas 3 maquinas em /etc/network/interfaces
5ºna primeira maquina faça apt-get update && apt-get upgrade -y && apt-get install samba -y
6º configure o servidor DNS na segunda maquina "recomendaria juntamente com servidor DHCP"
7º na terceira maquina repita o passo 5 e configure o samba para compartilhar
8º na primeira maquina faça um "mapeamento"/ monte o caminho da pasta que fica dentro do maquina bakcup
9º faça um shell para efetuar backup periodicamente de tudo dentro da maquina fileserver para dentro da maquina backup
10º Recomendaria fortemente que na maquina onde vai ser o servidor de dados que utilizasse um HD novo se possivel.. e se sobrar um ca$h usar HD novo na maquina de backup tambem..
Bem acho que é isso basicamente...claro que foi meio que só uns tópicos, o resto é com vc...