Исправил на такой вариант:
Код AS3:
for (i = 0; i < length; i++)
{
if ((vector[i] >> 8 & 0xFF) > Math.max(vector[i] >> 16 & 0xFF, vector[i] & 0xFF) + 7)
vector[i] = 0;
}
Стало заметно быстрее. Впринципе уже приемлимо. Спасибо!
Но если еще есть варианты я послушаю)