Не представляю, как выглядит конкретно twist эффект.
Эффекты делать можно по разному, что для 2д что для 3д рендера. Например, можно использовать промежуточные текстуры (RenderTexture), для временной отрисовки туда экрана, элементов меню и всего прочего, с последующим применением нужного фильтра или фильтров при выводе этой текстуры на экран.
По крайне мере, базовый апи context3D флеша предоставляет широкие возможности, есть и пиксельные шейдеры и вершинные, что угодно можно сделать.
Но PB был хорош тем, что он выполнялся на процессоре, не требовалось получать контекст, подключать gpu, фильтр на pb легко подключается к обычным, флешовым, векторным объектам. У pb более высокоуровневый язык шейдера, более удобный. У него есть собственная среда для разработки!
Зачем нужно было его ломать - для меня загадка.