Trabalhar com camadas é a mesma coisa que Construir uma casa kkkkk "belo exemplo"
você não construiria uma casa fazendo primeiro o telhado e depois o alicerce, certo?
quanto ao gimp não sei explicar, mas no caso do Inkscape por exemplo você ao fazer um desenho complexo, pode dividi-lo em diversas:
1-Base <-caso você utilize uma foto como base do desenho, você pode travar esta camada e deixa-la sempre a vista com um pouco de transparência.
2-Esboço <-Você poderia utilizar esta camada para fazer o contorno do desenho por exemplo
3-Efeitos <-arte final ou por exemplo poderia fazer os detalhes pequenos em uma camada separada.
Sendo que você pode ocultar cada uma delas ou mover para cima, para baixo e ao final mesclar todas é excluir a foto de base ;-)
é basicamente isto rs rs eu como tenho uma máquina bem ruinzinha para este tipo de trabalho
utilizo bastante deste recurso, pois posso ocultar a camada de efeitos para fazer alterações no Desenho.
Eu recomendo que você procure pelas comunidades dos respectivos programas, creio que lá sua dúvida ficara bem resolvido lendo um tutorial:
http://wiki.softwarelivre.org/bin/view/InkscapeBrasil/ (Inkscape)
http://www.ogimp.com.br/ (gimp)
http://www.gimp.com.br/smf/index.php (Para gimp e Inkscape)
PS: Aqui tem bons exemplos do uso de camadas
http://wiki.softwarelivre.org/InkscapeBrasil/Galeria#Screenshots