http://habrahabr.ru/post/70246/
http://habrahabr.ru/post/84396/
http://help.adobe.com/ru_RU/as3/dev/...950BBC223.html
Твоя задача вообщем то - изучить работу с PB, научиться внедрять созданный фильтр во флешь. 1 может 2 дня мозгового штурма, и ты станешь на 20% круче. Такая обработка битмапы идеально подходит для учебных целей.
Алгоритм пиксельного шейдера не сложный - получаешь цвет пикселя и на основе каких-то переданных констант решаеш - рисовать его или нет.