Para desenvolver um programa que usa uma biblioteca você precisa instalar os pacotes da biblioteca com "-dev" no nome (vale para qualquer biblioteca nos repositórios). Para a GTK (em C) seria libgtk2.0-dev e para a GTKmm (em C++) seria libgtkmm-2.4-dev (além de suas dependências, claro).
Feito isso, você precisa dizer para o compilador onde encontrar os headers [1], e para o linkador onde procurar as bibliotecas e com quais linkar. Para saber essa informação você pode usar o pkg-config. Por exemplo, o comando
pkg-config gtkmm-2.4 --cflagsvai retornar tudo que deve ser informado para o compilador, enquanto que o comando
pkg-config gtkmm-2.4 --libsvai informar tudo que deve ser informado para o linkador.
A maneira mais fácil então de se compilar um arquivo que usa a gtkmm seria
g++ -o nome_de_saida seu_arquivo.cpp seu_arquivo.h `pkg-config gtkmm-2.4 --cflags --libs`Note que os "sinais de crase" fazem com que o comando seja executado e o resultado seja passado para o g++.
[1] - Como as bibliotecas instaladas pelo gerenciador de pacotes vão para pastas padrões então muitas vezes o compilador encontra os headers sem que você precise faça nada
