Что смешно, так это то, что этот пример - бездумная копия из мануала, на самом деле не нужно возвращать строго -1, 0 или 1, достаточно просто возвращать положительное, отрицательное и 0. Т.е. функция сортировки может выглядеть так:

Код AS3:
private function sortHelper(x:int, y:int):int
{
return x - y;
}
Да, с поправкой на то, что если вы предвидите ситуацию, когда будет переполнение, например, если отнять 1 от int.MIN_VALUE, то, возможно, есть смысл нормализовать значения, например так:

Код:
1 / (1 / y - 1 / x)
Но если такие случаи не предвидятся, то это будет лишним.