[КорДум]

Так и переделайте, вместо Object поставьте Array:

      function hexToRGB(hex:uint):Array {
            var arr:Array = [((hex & 0xFF0000) >> 16),
                             ((hex & 0x00FF00) >> 8),
                             ((hex & 0x0000FF)) ]
            return arr;
      }