Когда я делал модальное окно, то тупо создавал полупрозрачный спрайт на весь стэйдж.
Поверх него уже само окно.
окошко можно и так сделать

Код AS3:
// конструктор
public fucntion Window(onOk:Function, onCancel:Function)
{
okButton.addEventListener(MouseEvent.CLICK, onOk);
...
}