[Stage3D] Генерация ShadowMap.

[Zebestov]

Ты должен выяснить пределы. Когда тебе будут известны минимальное и максимальное значения глубины, записывай глубину как-то так:

var valueRGB:uint = uint((depth - minDepthValue) / (maxDepthValue - minDepthValue) * 0xffffff);
var valueR:uint = (valueRGB >>> 16) & 0xff;
var valueG:uint = (valueRGB >>> 8) & 0xff;
var valueB:uint = (valueRGB) & 0xff;

а читай так:

var valueRGB:uint = (valueR << 16) | (valueG << 8) | valueB;
var depth:Number = valueRGB / 0xffffff * (maxDepthValue - minDepthValue) + minDepthValue;

P.S.
Разумеется вот это вот (maxDepthValue - minDepthValue) лучше вычислить один раз и хранить в какой-то depthValueRange.