Ошибкой оказалось задавать myPopUp размеры всего экрана. Надо было размеры myPopUp задавать пропорционально физическим размерам картинки.
что-то типа

Код:
if (what.height/what.width > stage.height/stage.width){
var k:Number = (stage.height-100)/what.height;
}else{
var k:Number = (stage.width-100)/what.width;
}
myPopUp.height = what.height * k;
myPopUp.width = what.width * k;