Для запуска деббагера должна использовать java той же битности, что и редактор, указать путь к java_home можно в Tools -> Program Settings... -> FlashDebugger -> Java Home Directory
посмотреть битность редактора можно в Help -> About...
если есть какие-то технические проблемы, они должны быть отображены в View -> Output
в FD есть официальный репозиторий
https://github.com/fdorg/flashdevelop о любых проблемах лучше писать туда, если хочется получить результат