как же я долго с этим мучился....
масштабировал, потом высчитывал смещение, в итоге все равно ролик уезжал куда-то не туда.
помог такой костыль:
1) в масштабируемый ролик добавил невидимый объект, который всегда находился в том месте, относительно которого надо масштабировать. в моем случае это был центр "окна", через которое просматривался оригинальный объек.
2) были кнопки сролла и зума. при сроллинге этот невидимый "центр" двигался в масштабируемом ролике так, чтобы всегда находиться центре окна.
3) в функции масштабирования делалось примерно следующее:

Код AS3:
var point1:Point=dot.localToGlobal(new Point(0,0));//запомнили кординаты "центра"
....
//масштабируем
....
var point2:Point=dot.localToGlobal(new Point(0,0));
var point3:Point=point2.subtract(point1); //получаем смещение объекта
//и компенсируем его
object.x-=point3.x;
object.y-=point3.y;
в аттаче небольшой пример, тестил концепцию на нем. в правом верхнем углку кнопки скролла, чуть ниже две кнопки для зума. сделано коряво, но прицип понять можно.
хотя сдается мне, что все это прекрасно реализовывается через TransformMatrix...