Todos sabemos que a Linguagem C (me refiro somente ao ANSI C, nada de C++) foi feita inicialmente para o desenvolvimento do Unix, e até hoje isso não mudou muito. Os Unix-Likes ainda são feitos, em suma, usando C, mas nesse ponto os projetos de Alto Nível são feitos em C++;
Python tem crescido muito, principalmente para programas que ficam somente em níveis altos, e no meu conceito é melhor que Java. E não se pode deixar de citar o Shell Script, que é a linguagem que todos nós no GNU/Linux usamos pelo menos uma vez.
PHP também é bastante importante em ambientes GNU/Linux, principalmente em servidores. Além dessas linguagens acima, também trabalho com Assembly AT&T ao desenvolver meu pequeno kernel, o Larks.
Lembre-se que a linguagem muitas vezes não importa tanto quanto a idéia em si. A verdadeira fonte, que são os Algoritmos, podem ser expressos em uma simples folha e lápis.