Вам поможет не фильтр, а метод класса BitmapData.threshold()

Код:
var bmpData = new BitmapData(width, height, true, 0);
bmpData.draw(mc);//mc - клип с изображением
var bmp = addChild(new Bitmap(bmpData));
bmpData.threshold(bmpData, new Rectangle(0, 0, width, height), new Point(0, 0), ">=", 0xFFFAFAFA, 0, 0xFFFFFFFF, false);//отсекаем цвет выше 0xFFFAFAFA
пример для as3, но threshold работает и для as2