Посмотрите вот на это:
4videosoft.com | video-converter-ultimate
На мой взгляд самая приличная софтина для конвертации видео.
Сколько не пробовал работать с AVI-форматом (я не профи), всегда идет ухудшение качества.
Может это специфика данного формата.