Olá joão,
Adianto desde já: muita gente não gosta da idéia da simples existência desse tipo de servidor, pq considera que eles são fonte de spam. Talvez vc não escute exatamente o que quer ouvir, se é que vc me entende.
Sobre seu problema, vc vai precisar de 3 coisas: primeiro, uma conexão dedicada. Conexões domésticas não vão te dar o próximo requisito, que é uma faixa de IPs públicos (pode ser uma faixa /29, já que vc precisará de poucos deles).
Por fim, como vc desconfiou, precisará de um servidor DNS configurado para fazer tradução direta de DNS, e vai precisar que o teu provedor faça a tradução reversa dos IPs que vc contratou. Sim, não é vc que vai fazer isso, e sim seu provedor.