Ты должен выяснить пределы. Когда тебе будут известны минимальное и максимальное значения глубины, записывай глубину как-то так:

Код AS3:
var valueRGB:uint = uint((depth - minDepthValue) / (maxDepthValue - minDepthValue) * 0xffffff);
var valueR:uint = (valueRGB >>> 16) & 0xff;
var valueG:uint = (valueRGB >>> 8) & 0xff;
var valueB:uint = (valueRGB) & 0xff;
а читай так:

Код AS3:
var valueRGB:uint = (valueR << 16) | (valueG << 8) | valueB;
var depth:Number = valueRGB / 0xffffff * (maxDepthValue - minDepthValue) + minDepthValue;
P.S.
Разумеется вот это вот
(maxDepthValue - minDepthValue) лучше вычислить один раз и хранить в какой-то
depthValueRange.