Com uma simples linha de comando você instala o essencial para compilar
programas e ganha a capacidade de instalar pacotes no estilo slackware de ser
sudo apt-get install build-essential
O pacote build essential instala todos os compiladores incluindo o gcc
Dica adicional:
Usando o dpkg-repack você pode gerar um arquivo .deb de um programa instalado
Primeiro instale o dpkg-repack
sudo apt-get install dpkg-repack
Para reconstruir o pacote ssh (obviamente instalado) faça:
dpkg-repack ssh
pode copiar o pacote para um cd e em outra máquina fazer:
dpkg -i ssh