Да, для комнаты bsp должно быть оптимальным вариантом, там же надо нет движущихся частей - один раз разбил на дерево и все.
bsp_sources.zip
Суть такая:
- дерево перестраивается на каждом кадре. Вам достаточно его построить один раз. Оно и в моем примере не нужно, просто планы были наполеоновскими

- написано на haXe. Не производительности ради, а просто язык мне нравится. Если портируете на as3 - производительность сильно упасть не должна (ну в 2 раза из-за отсутствия inline - это потолок, т.е. можно не обращать внимания).
Голос разума говорит, что надо использовать обкатанные движки типа alternativa.
(Единственное, они код закрыли и требуют свой значёк впихивать, но, наверно есть и открытые либы с BSP-деревом. Наверно)