[RemoteClass] делает следующее (при чем очень плохо, с попыткой предотвратить конфликты с флексовыми модулями, и там у него просто не получается это сделать, но это отдельная история, вобщем, не используйте его).

Код AS3:
flash.net.registerClassAlias("alias", theClass);
Если вас интересует, как именно он это делает - можете скомпилировать с ключем -keep и посмотреть исходники FlexInit, это где-то там было если память не изменяет.
Дальше, если вы получаете массив из объектов типа Object, а не любого из его наследников (кастование к нужному типу приводит к ошибке) - это значит, что сериализация вообще не работает. Zend_Amf - не лучшая библиотека, кроме того, не реализует всех возможностей формата, и
очень плохо настраивается. На столько плохо, что легче написать по-новой, чем ее настроить. Это касается бесконечной вереницы класс-лоадеров в Zend и мартышкиными потугами "замутить крутую архитектуру", которая вылилась в 100500 никому не нужных классов... Но, опять же, эта информация вам мало поможет

Так вот, если сериализация вообще не работает, значит Zend не находит PHP классы нужные для нее... Комментарии возвращаемого типа нужны, на сколько я знаю, для генерации кода какими-то инструментами Flash Builder'a, на сериализацию они не влияют / их вообще можно не писать.
Если вы получаете массив из объектов нужного типа: у вас все работает, как нужно, Vector.<T> появился после того, как был написан AMF3.0 формат, и по-этому пока-что не используется в сериализации (не смотря на то, что некоторые реализации понимают тег #13 - это так бы записывался вектор, если бы он был, но, при этом Флеш плеер оказывает медвежью услугу - он, когда сериализует Vector.<T>, то всегда тип указывает как Vector.<Object>, что, вобщем-то, делает всю идею бесполезной.
Поэтому, как говорилось выше - если вам нужен вектор, прийдется его создавать из массива - о целесообразности думайте сами: есть ли смысл расходовать память / так уж ли необходимо быть там вектору?