Pesquisa rápida no tio Google e encontrei três possiveis soluções.
1) Você configura manualmente o programa Torrent para abrir o magnet link.
Com o comando, não precisa ser root, no terminal:
xdg-mime query default x-scheme-handler/magnet
Você verifica qual programa está configurado para usar o xdg-open, que vai abrir o magnet link.
Com este outro comando longo:
grep -r -e "application/x-bittorrent" -e "x-scheme-handler/magnet" /usr/share/applications/
/usr/share/applications/deluge.desktop:MimeType=application/x-bittorrent;x-scheme-handler/magnet;
/usr/share/applications/transmission-gtk.desktop:MimeType=application/x-bittorrent;x-scheme-handler/magnet;
/usr/share/applications/mimeinfo.cache:application/x-bittorrent=transmission-gtk.desktop;deluge.desktop;
/usr/share/applications/mimeinfo.cache:x-scheme-handler/magnet=transmission-gtk.desktop;deluge.desktop;
Você verifica os programas disponíveis para abrir o magnet link, os que estiverem disponíviveis ele vai mostrar numa linha roxa, vermelha e branca, sem erros.
Para definir um programa padrão para abrir o magnet link você usa o comando, no caso para o Delugue:
xdg-mime default deluge.desktop x-scheme-handler/magnet
2) O Firefox permite que você escolha o programa padrão para abrir o magnet link:
Firefox menu → Preferencias → Applicações → magnet: Escolha outra aplicação
Geralmente o padrão é o Transmission.
3) Você pode copiar o magnet link com o botão direito do mouse e colar para abrir o url no programa Torrent de sua preferência.
Veja qual alternativa funciona para você.