System.gc() это принудительный вызов сборщика мусора. Т.е. в плеере реализован механизм автоматической сборки мусора который запускается через некоторый промежуток времени. Но этой функцией вы можете запустить сборщик принудительно. (Может ошибаюсь, но вроде работает только в debug player, лень лезть в документацию)
Отслеживание потребления памяти можно реализовать несколькими путями. Например можно воспользоваться профайлерами такими как например в FlashDevelop. Тут есть плюс в том что вы можете посмотреть на какие объекты тратите память и сколько экземпляров вообще создается и т.д.
Можно подключить консоль, как например
эту. Тут плюсом является то, что можно запустить в рабочей версии, правда функциональность конечно сильно страдает в сравнении с профайлером. Но и плюсов в другой области не меньше.
Можно просто посмотреть сколько плеер тратит памяти в диспетчере задач. Тупо, но надежно
