[_musicano]

Не получится.
Иногда в такой ситуации есть выход: реализовать один из эффектов без маски (может быть, введением доп. объектов).

В вашем случае, например, можно внешнюю прямоугольную маску (если она неподвижна) - убрать, а на её место поставить большой белый прямоугольник с прямоугольной дыркой ("инвертированная маска", типа). В общем, сымитировать действие маски. Это просто пример, на практике всё может быть гораздо запутаннее.