Câmera de monitoramento com resolução de tela ruim

Galera, apesar de já estar há um tempo na comunidade, não sei se este é o local exato para postar esta dúvida, pois não encontrei outro local que fosse mais específico sobre o assunto.

Tenho uma placa de monitoramento DVR Multitoc instalada no micro. Acontece que a imagem exibida é de péssima qualidade, não dá para definir o que está na imagem, está avermelhada e embaçada (não é problema de câmera nem de cabeamento, pois já foram testasdos). Gostaria de saber se isso pode ser influenciado pela placa de vídeo. O micro está com placa de vídeo on board, mas não tenho uma off para testar. Então não posso comprar uma placa apenas para testar e na hora não funcionar, então gostaria de ver resposta de pessoas que já conhecem esta placa.
O micro está com 512 de memória (o requisito do sistema para instalação é 256)
Athlon XP 2000+ (o requisito exige athlon , pentium IV ou superior)
E a placa de vídeo é on board
Placa mãe A7S266-VM
Além de saber se é realmente necessidade de uma placa de vídeo, gostaria de saber se pode ser uma placa de vídeo PCI, já que esta placa não aceita nem AGP.

---------------
Reinstalei o software. Durante a instalação aparece esta mensagem..
There is currently 1 connected device using WinDriver.
Please disconnect or uninstall all connected devices from the Device Manager
and press Retry.
To reload WinDriver, press Cancel and reboot.
Please press 'R' to retry or 'C' to cancel...