[2K WebStudio]

тут скорее invert/add/erase подходят.. должно быть стандартное решение..

Добавлено через 30 часов 21 минуту
нашел решение.
есть разные классы, которые попиксельно анализируют изображения, соответственно границы получаются пиксельные, т.к. там работа с bitmapData.

а в итоге сделал путем многочисленных blendmode. если кому-то интересно, пишите, расскажу.