O seu caso é o contrário de todos aqui, ou seja, todos (acho eu), estão usando o SO Ubuntu e usando o VirtualBox para emular outra versão do Ubuntu, por exemplo. Já você está usando o SO Windows para emular o Ubuntu.
Fui aqui no Windows, instalei o VB para ele e logo em seguida instalei o Ubuntu 9.10 32bits numa VB. Meu pendriver Kingston funcionou, mas para isso e após instalar o Ubuntu fui no menu Dispositivos > Instalar Adicionais para Convidado...
Feito isso apareceu no desktop do Ubuntu um ícone de disco chamado de VBOXADDTIONS_3. abri o mesmo e vi lá uma arquivo (script) chamado autorun.sh que não rodou automaticamente talvez por que precisava ser como root, cliquei duas vezes nele e na janela que se abriu escolhi executar em terminal. Vai ser pedido uma senha, digite a sua e depois é só seguir o mostrado.
Com tudo instalado, pluguei o pendriver e fui em Dispositivos > Dispositivos USB vi lá o meu pendriver, marquei e ele apareceu na área de trabalho.
OBS: Talvez depois de instalar os adicionais, seja necessário reiniciar o Ubuntu em VB.