> В моем понимании, я обращаюсь к методу toXMLString()
Нет
в первом случае вы вызываете оператор [] с двумя аргументами XML и строка, и он возвращает вам новый XMLList, а во втором случае вы вызываете оператор [] с двумя аргументами - пространство имен AS3 примененное к объекту XML и строка, и он вам возвращает функцию.
псевдокод:
Код:
bracketsOperator(xml, "toXMLString") => XMLList
bracketsOperator(AS3(xml), "toXMLString") => function
где
AS3(xml) => { key: value }