вот набросал пример
http://wonderfl.net/c/xefs
переводит координаты точки из системы координат желтого квадрата в систему голубого
всю магию делают вот эти две строчки:

Код AS3:
var mx:Matrix = new Matrix(1, .5, -1, .5, 100, 0);
var b:Point = mx.transformPoint( new Point( mouseX, mouseY ) );