[gloomyBrain]

Точно нужно только один раз читать из вектора + заменить Math.max на самописную, типа такого:

for (i = 0; i < length; i++)
{
    var elem:uint = vector[i]; // одно чтение из вектора
 
    var a:uint = elem >> 16 & 0xFF;
    var b:uint = elem & 0xFF;
    var max:uint = a > b ? a : b; // самописная проверка
 
    if ((elem >> 8 & 0xFF) > max + 7)
    {
        vector[i] = 0;
    }
}

Потому что
а) индексный доступ к массивам в AS3 довольно медленный
б) Math.max - это статический метод, в AS3 это тоже очень и очен медленно работает