Маска
 

У меня не получается чтобы маскируемый слой был виден только частично. Если на маске я рисую круг, у которого радиальная заливка с переходом от непрозрачного цвета к прозрачному, то всё-равно видно всё, что находится под кругом, а я хочу, чтобы под кругом был виден переход от видимой части изображения к невидимой. Я могу это сделать так?

Именно рисуя на слое с маской - нет. Но вообще такое возможно. Ключ к решению: использовать клип маски с cacheAsBitmap равным true. В том примере, который я видел, отрисовка в битмап и установка его в роли маски выполнялась при помощи скрипта. Обязательно это или нет я не знаю.