Amigo, se a conexão era via ssh, então estava no modo texto e utilizou o comando rm.
Esse comando não envia os dados para a lixeira, ele remove direto.
A recuperação dos dados dependerá de sua estrutura.
Digo isso por que a partição onde esta os dados precisa ser desmontada e, como não podemos desmontar a partição do sistema, rezemos para que os dados exluidos estejam em outra partição. Caso os dados estejam na partição do sistema, então, é preciso ligar o hd em outra maquina ou dar boot pelo cd.
Se a sua estrutura não permite isso, então, já era.
Se a partição for reiserfs:
Com o comando umount, desmonte a unidade.
Com o comando reiserfsck --check /dev/
unidade você começa a verificar pequenos erros na partição.
Com o comando reiserfsck --fix-fixable /dev/
unidade você começa a corrigir erros encontrados na unidade.
Com o comando reiserfsck --rebuild-tree --scan-whole-partition /dev/
unidade você começa a recuperar os dados excluidos.
Feito isso, monte novamente a partição, os dados recuperados vão estar dentro do diretório lost+found na raiz.
Use o comando chown caso precise se apropriar do diretório ou o chmod para definir as permissões.
Se a partição for ext3:
Nesse caso, existem varios casos no google e varios manuais, basta pesquisar por recuperar dados em uma partição ext3.
Um link bom que eu achei foi esse:
http://www.xs4all.nl/~carlo17/howto/undelete_ext3.htmlClaro que tudo isso vai depender se os dados a recuperar não foram sobrescritos, ou seja, se o sistema não gravou nada em cima deles. A chance disso ocorrerm depende do que foi feito no sistema após a exclusão, se nã mexeu muito no hd e nem transferiu dados para o mesmo, a chance dos dados estarem sobrescritos é pequena.
Agora, quanto mais você mexeu no sistema ou quanto mais dados foram adicionados nessa partição onde excluiu os dados, menor a chance de recuperar esses dados.