[Gantenbain]

Рисую в BitmapData с нулевой альфой. Заполняющие пикселя имеют альфу = 1 и не касаются границ BitmapDatы. Границы, полученного рисунка надо разгладить (т.е. только пиксели, имеющие в соседях альфу = 0).
Набросал такой шейдер:

>

{
    input image4 src;
    output pixel4 dst;



    void
    evaluatePixel()

    {
        dst = sampleNearest(src,outCoord());
        if(dst.a > 0.0){
            float2 s = outCoord();
            pixel4 p0 = sampleNearest(src, float2(s.x, s.y - 1.0));
            pixel4 p1 = sampleNearest(src, float2(s.x - 1.0, s.y));
            pixel4 p2 = sampleNearest(src, float2(s.x - 1.0, s.y - 1.0));
            pixel4 p3 = sampleNearest(src, float2(s.x - 1.0, s.y + 1.0));
            if(!all(bool4(int(p0.a), int(p1.a), int(p2.a), int(p3.a)))) {
                p2 = sampleNearest(src, float2(s.x, s.y + 1.0));
                p3 = sampleNearest(src, float2(s.x + 1.0, s.y));
                dst.rgb = (dst.rgb + p0.rgb + p1.rgb + p2.rgb + p3.rgb) / 5.0;
               dst.a = dst.a;
            } else {
                p2 = sampleNearest(src, float2(s.x, s.y + 1.0));
                p3 = sampleNearest(src, float2(s.x + 1.0, s.y));
                pixel4 p4 = sampleNearest(src, float2(s.x + 1.0, s.y - 1.0));
                pixel4 p5 = sampleNearest(src, float2(s.x + 1.0, s.y + 1.0));
                if(!all(bool4(int(p2.a), int(p3.a), int(p4.a), int(p5.a)))) {
                    dst.rgb = (dst.rgb + p0.rgb + p1.rgb + p2.rgb + p3.rgb) / 5.0;
                    dst.a = dst.a;
                }
            }
        } 
    }
}

В AS3 вставляю так:

[Embed(source = "courveedge.pbj", mimeType = "application/octet-stream")] 
 var AaEdge:Class; 
 var shader:Shader = new Shader(); 
 shader.byteCode =  new AaEdge();
 var shaderFilter:ShaderFilter = new ShaderFilter( shader );
 bmd.applyFilter(bmd, new Rectangle(0, 0, bmd.width, bmd.height), new Point(), shaderFilter);
 var bmp:Bitmap = new Bitmap(bmd);

В IDE Pixel Bender'а шейдер работает так, как от него ожидалось, фильтр, примененный к BitmapDatа, размазывает весь рисунок, а не только края, хотя внутри тела рисунка ни один пиксел не имеет нулевую альфу.
Если кому очевидно, в чем проблема, плз, поясните и мне.