[Foristel]

var matrix:Matrix3D = new Matrix3D();
var v1:Vector3D = new Vector3D(0,20,40,0);
matrix.appendRotation(0, Vector3D.X_AXIS);
var v2:Vector3D = new Vector3D();
v2 = matrix.transformVector(v1); 

trace("1.", v1);
trace("2.", v2);

результат -
FlasDevelop 4.0.2 (Flash Player 11.2)
1. Vector3D(0, 20, 40)
2. Vector3D(0, 20, 40) - верно

Adobe Flash CS4 (Flash Player 10)
1. Vector3D(0, 20, 40)
2. Vector3D(0, 1, 2) - неверно, все величины меньше в 20 раз...

Видимо, это баг устаревшего Adobe Flash CS4 либо я что-то пропустил.
Если у кого-то есть версия поновее, проверьте, пожалуйста, это код,
если не сложно.