Ola,
acredito que deveria começar pelo X window sistem
O popular X11 é mantido pela freedesktop.org ( X86consortium )
Ele é o responsavel por controlar as requisições dos ambientes graficos e o shell
Existem varios ambientes graficos como dentre outros ( devem haver uns 15 ou mais ) kde, gnome, lxde, enligthenment, e o windows maker, feito por um brasileiro, Marcelo Kojima, se não me engano
[],s e bons estudos