Пардон, описка. Для метода Math.random() по другому, нежели чем для функции random:

Код AS1/AS2:
100 + Math.random() * 100
То есть лучше всего так:

Код AS1/AS2:
mtx = 100 + Math.round(Math.random() * 100);
mty = 100 + Math.round(Math.random() * 100);
Math.round для того, чтобы по целым координатам было.