fcsh ожидает перенос строки для начала выполнения команды
Код AS3:
input.writeUTFBytes("mxmlc -file-specs Script.as -o Script.swf debug=true -static-link-runtime-shared-libraries=true\n");
Несколько рекомендаций:
1. Для чтения output в Windows используй output.readMultiByte(output.bytesAvailable, "windows-1251");
2. Для стабильной работы нужно сначала дождаться в output ответа "(fcsh) " и только потом писать в input
3. Так как fcsh.exe,mxmlc.exe,compc.exe требуют java x86, при наличии в системе только java x64 будет ошибка, вместо этого нужно использовать java.exe -jar lib/fcsh.jar
4. Eсли нужно скомпилировать вызывай нужный компилятор java.exe -jar lib/mxmlc.jar а не Shell обертку fcsh
5. Не используй Air для build tool, для этого есть специализированные инструменты
ant,
gradle,
maven,
bash,
cmd, Python или java для нетривиальных задач