Não conheço o Blue Iris, mas enfim, se comprou está comprado, vi lá que custa algo como 60 dollars a versão full, para múltiplas câmeras. Se não conseguir mesmo fazer ele funcionar no Wine, ainda tem a opção de instalar dentro de um Windows rodando dentro de uma Máquina Virtual (Virtual Box) dentro do Linux.
De qualquer forma, como você está começando no mundo Linux, essa é apenas uma solução inicial, pois com o tempo, estando no Linux, é sempre melhor procurar soluções Linux e não soluções adaptativas, com um pé lá e outro cá.
Existem softwares originalmente Linux que fazem o gerenciamento de Sistemas de Vigilância, como por exemplo o ZoneMinder.
http://www.zoneminder.comNesse caso, para o Ubuntu, há até mesmo uma ppa específica, o que facilita a vida e torna a manutenção algo muito fácil.
https://launchpad.net/~iconnor/+archive/ubuntu/zoneminderO conjunto do que você pretende talvez ficasse melhor alojado num servidor de verdade (não a versão Desktop, a versão Server mesmo, que não possui ambiente gráfico), acessível por SSH, cliente de Secure Shell, que é a solução clássica para esse tipo de coisa, e nisso o Linux é imbatível, já que é a opção de escolha para qualquer ambiente verdadeiramente profissional.
Entretanto, tudo isso é uma curva de aprendizagem, há um tempo próprio de familiarização, de agregação de novos conhecimentos, que vai se dar pouco a pouco, e nesse sentido é melhor começar mesmo aprendendo com uma versão Desktop, depois, com o tempo, vai fazendo as adaptções necessárias ao que pretende.