Спасибо, теперь работает
И все-таки интересно, почему не сработал первый вариант?

Код AS3:
var bytes:ByteArray = new ByteArray();
bytes.writeMultiByte(e.target.data, "windows-1251");
bytes.position = 0;
trace(bytes.readMultiByte(bytes.bytesAvailable, "utf-8"));
Как сменить кодировку если на вход идет строка?