Если окно было открыто с другого окна ЯваСкриптом (и поп-ап защита броузера даже его пропустило) тогда очень просто

Код:
myBtn.onRelease = function(){
getURL("javascript:self.close()", "_self");
}
и кнопочка закроет окно нафиг...
Если же тебе надо закрыть окно которое было "стартовым" а не поп-аповым
то тебе стандартная защита ИЕ и Мозилы не даст это сделать... правда в инете видел когда-то примерчик как это можно обойти... полазь по ЯваСкриптовым форумам