Eu primeiro passo que eu faço é sincronizar o sistema com os repositórios com o comando:
sudo apt-get update
Depois você já pode atualizar o sistema:
sudo apt-get upgrade
Obs.: O "apt-get upgrade" de ser utilizado sempre que você quer atualizar todos os pacotes para as versões mais recentes, só vai buscar as atualizações dos servidores, mirrors, sem atualizar nada (tem que dar um update primeiro para atualizar a informação sobre os pacotes).
O "apt-get dist-upgrade" deve ser utilizado quando você quer fazer um upgrade da versão de distribuição (é para atualizar de versão).
Técnicamente é mais complexo, vou tentar explicar o que li no manual, basicamente a diferença é que um "apt-get upgrade" não fará a atualização se esta tiver que remover/atualizar outros pacotes, ao contrário o "apt-get dist-upgrade" faz as atualizações fazendo as alterações com mais impacto (remover/atualizar outros pacotes).
Assumindo que só está usando os repositórios oficias, se não estiver mudando de versão de distribuição não deverá ser necessário nunca um dist-upgrade.
Espero ter ajudado.