Почему видео смонтированые через vegas pro 10.0 теряют в качестве (то есть картинка шипит) ?

Оооооо... Слишком многогранный вопрос, чтобы по твоим пару слов хоть что-то пытаться ответить. Если шипит реально, то значит аудио-кодеки используются неверные.

Это версия довольно стара, думаю, возможны глюки. Советую Вам скачать Sony Vegas Pro 13.0 или хотя бы 12.0

Покажите нам файлы до и после обработки. Не видя, совет не дать. Может настройки экспорта проекта в видеофайл нужно посмотреть.