Форум Flasher.ru
Ближайшие курсы в Школе RealTime
Список интенсивных курсов: [см.]  
  
Специальные предложения: [см.]  
  
 
Блоги Правила Справка Пользователи Календарь Поиск рулит! Сообщения за день Все разделы прочитаны
 

Вернуться   Форум Flasher.ru > Flash > ActionScript 3.0

Версия для печати  Отправить по электронной почте    « Предыдущая тема | Следующая тема »  
Опции темы Опции просмотра
 
Создать новую тему Ответ
Старый 16.12.2011, 14:49
TanaTiX вне форума Посмотреть профиль Отправить личное сообщение для TanaTiX Найти все сообщения от TanaTiX
  № 1  
Ответить с цитированием
TanaTiX
 
Аватар для TanaTiX

блогер
Регистрация: Feb 2008
Сообщений: 1,453
Записей в блоге: 4
По умолчанию ReadLong from ByteArray

Попросили помощи в одном интересном вопросе. Сам не достаточно компетентен в данном вопросе, т.е. тоже интересно.
С сокет-сервера получаем данные (Endian.LITTLE_ENDIAN).
Среди массива данных имеется
Цитата:
cd 9 e6 3a 2 0 0 0
что соответствует числу
9578088909
Вот инвертнутый массив (в формате BIG_ENDIAN):
Цитата:
0 0 0 2 3a e6 9 cd
который получаем при использовании метода
Код AS3:
public function readUnsignedLong():Number
  {
    //TODO error check length
    return  ((readUnsignedByte() & 255) << 56) + 
      ((readUnsignedByte() & 255) << 48) +
      ((readUnsignedByte() & 255) << 40) +
      ((readUnsignedByte() & 255) << 32) +
      ((readUnsignedByte() & 255) << 24) +
      ((readUnsignedByte() & 255) << 16) +
      ((readUnsignedByte() & 255) << 8) +
      ((readUnsignedByte() & 255) << 0);
  }
В результате имеем
988154319
988154319 != 9578088909
В чем косяк? Спасибо за помощь.
__________________
Ну все, теперь Забава м-о-я.
Гы-гы, а корабль мой!

Старый 16.12.2011, 14:55
i.o. вне форума Посмотреть профиль Отправить личное сообщение для i.o. Найти все сообщения от i.o.
  № 2  
Ответить с цитированием
i.o.
 
Аватар для i.o.

Регистрация: Apr 2010
Адрес: Earth
Сообщений: 1,897
При всем желании, в Number не запихнуть int64, без потери точности.

Старый 16.12.2011, 14:58
maxkar вне форума Посмотреть профиль Отправить личное сообщение для maxkar Найти все сообщения от maxkar
  № 3  
Ответить с цитированием
maxkar

Регистрация: Nov 2010
Сообщений: 497
Совершенно банально число не влезает. 988154319 - это 0x3AE609CD. В документации
Цитата:
The bit positions that are emptied as a result of this operation are filled in with 0 and bits shifted off the left end are discarded.
...
The result is interpreted as a 32-bit two's complement number, so the result is an integer in the range -2147483648 to 2147483647.

Старый 16.12.2011, 15:04
i.o. вне форума Посмотреть профиль Отправить личное сообщение для i.o. Найти все сообщения от i.o.
  № 4  
Ответить с цитированием
i.o.
 
Аватар для i.o.

Регистрация: Apr 2010
Адрес: Earth
Сообщений: 1,897
Вот так должно работать, вплоть до 53 битного заполнения входящего Long
Код AS3:
public function readUnsignedLong() : Number
{
	return ((readUnsignedByte() & 0xFF) * Math.pow(2, 56)) + 
		((readUnsignedByte() & 0xFF) * Math.pow(2, 48)) +
		((readUnsignedByte() & 0xFF) * Math.pow(2, 40)) +
		((readUnsignedByte() & 0xFF) * Math.pow(2, 32)) +
		((readUnsignedByte() & 0xFF) * Math.pow(2, 24)) +
		((readUnsignedByte() & 0xFF) * Math.pow(2, 16)) +
		((readUnsignedByte() & 0xFF) * Math.pow(2, 8)) +
		((readUnsignedByte() & 0xFF));
}

Старый 16.12.2011, 15:07
Genzo вне форума Посмотреть профиль Отправить личное сообщение для Genzo Посетить домашнюю страницу Genzo Найти все сообщения от Genzo
  № 5  
Ответить с цитированием
Genzo
 
Аватар для Genzo

блогер
Регистрация: Feb 2010
Адрес: MSK
Сообщений: 859
Записей в блоге: 3
Отправить сообщение для Genzo с помощью ICQ Отправить сообщение для Genzo с помощью Skype™
Я извиняюсь, но разве long это не 4 байта??
Цитата:
unsigned long int размер (байт) 4 минимальное значение 0 максимальное значение
4294967295
__________________
Gamedev != Gaming (http://twitter.com/#!/GenzoDev). Don't forget to [+] if it works.

Старый 16.12.2011, 15:12
TanaTiX вне форума Посмотреть профиль Отправить личное сообщение для TanaTiX Найти все сообщения от TanaTiX
  № 6  
Ответить с цитированием
TanaTiX
 
Аватар для TanaTiX

блогер
Регистрация: Feb 2008
Сообщений: 1,453
Записей в блоге: 4
i.o., спасибо за помощь. То что надо.
__________________
Ну все, теперь Забава м-о-я.
Гы-гы, а корабль мой!

Старый 16.12.2011, 15:15
crazyone вне форума Посмотреть профиль Отправить личное сообщение для crazyone Найти все сообщения от crazyone
  № 7  
Ответить с цитированием
crazyone
 
Аватар для crazyone

блогер
Регистрация: Nov 2007
Адрес: Киев
Сообщений: 557
Записей в блоге: 2
Посмотрите, что выдаст битовый сдвиг влево на 56 битов для любого числа. (операция возвращает не Number, а 32-битный int)
И, собственно, прослезитесь.

Нужно умножать на 2^56, или как-то так.

Добавлено через 2 минуты
Не успел =))

Старый 16.12.2011, 15:25
i.o. вне форума Посмотреть профиль Отправить личное сообщение для i.o. Найти все сообщения от i.o.
  № 8  
Ответить с цитированием
i.o.
 
Аватар для i.o.

Регистрация: Apr 2010
Адрес: Earth
Сообщений: 1,897
Цитата:
Я извиняюсь, но разве long это не 4 байта??
Насколько я помню, int равен машинному слову (WORD) и не может быть меньше 16 бит. В 32х битных системах WORD равен 2^32 => 4 байта.
long - занимает двойное машинное слово (DWORD). Соответственно, он должен быть длиннее int в два раза.
Вот и получаем 4 * 2 = 8 байт для long.
Могу ошибаться. Поправьте если что.

Старый 16.12.2011, 15:32
Genzo вне форума Посмотреть профиль Отправить личное сообщение для Genzo Посетить домашнюю страницу Genzo Найти все сообщения от Genzo
  № 9  
Ответить с цитированием
Genzo
 
Аватар для Genzo

блогер
Регистрация: Feb 2010
Адрес: MSK
Сообщений: 859
Записей в блоге: 3
Отправить сообщение для Genzo с помощью ICQ Отправить сообщение для Genzo с помощью Skype™
http://en.wikipedia.org/wiki/Integer...#C_and_C.2B.2B

4 байта в 32х и 8 байт в 64х

Добавлено через 2 минуты
В данном случае число : 9 578 088 909 может быть одним из :
Цитата:
word, doubleword, longword, long long, quad, quadword, int64
__________________
Gamedev != Gaming (http://twitter.com/#!/GenzoDev). Don't forget to [+] if it works.

Создать новую тему Ответ Часовой пояс GMT +4, время: 17:17.
Быстрый переход
  « Предыдущая тема | Следующая тема »  
Опции темы
Опции просмотра

Ваши права в разделе
Вы не можете создавать новые темы
Вы не можете отвечать в темах
Вы не можете прикреплять вложения
Вы не можете редактировать свои сообщения

BB коды Вкл.
Смайлы Вкл.
[IMG] код Вкл.
HTML код Выкл.


 


Часовой пояс GMT +4, время: 17:17.


Copyright © 1999-2008 Flasher.ru. All rights reserved.
Работает на vBulletin®. Copyright ©2000 - 2024, Jelsoft Enterprises Ltd. Перевод: zCarot
Администрация сайта не несёт ответственности за любую предоставленную посетителями информацию. Подробнее см. Правила.