ByteArray#writeMultiByte()
хотя, не уверен...
Добавлено через 53 минуты
проверил, работает

Код AS3:
private function clickListener(evt:Event):void {
var string:String = "Тестовая строка в другой кодировке";
var ba:ByteArray = new ByteArray();
ba.writeMultiByte(string, 'x-cp1251');
var fr:FileReference = new FileReference();
fr.save(ba, "test.txt");
}