Prezados, resolvi o problema.
Aparentemente tem um bug no mathematica causado por um conflito de biblioteca. Não lembro mais onde li isso, mas resumo abaixo a solução:
Existem duas soluções, apagar as bibliotecas libQtCore.so.4 e libQtGui.so.4 do mathematica (e NÂO do ubuntu) ou usar:
mathematica -defaultvisual
falow