Не проще сложить прямоугольники, создать такую битмапдату и отрисовать в нее объект с маской, а потом уже спокойно найти прямоугольник непрозрачных пикселей?
Хотя, чего складывать-то, маска не над объектом нас и не интересует. Просто отрисовываем замаскированный объект в битмапдату и находим прямоугольник непрозрачности.