Тут все понятно.
Код:
bigmap.setMask(maska_main);
maska_main.onPress = function()
{...}
bigmap.palm_j.onRollOver = function()
{...}
Обработчик клипа-маски перекрывает обработчик клипа внутри маскируемого клипа. См. поиском тему "кнопка внутри кнопки" или что-то в этом роде.
Непонятно другое. Вы написали, что это РАБОТАЕТ (???) если наводить не на клип, а на кнопку. Это про что было сказано?