[etc]

Ну так i же от единицы начинается, значит первый клип будет во втором столбике первого ряда! (1%4 равен единице, т.е. _x = 259, а _y равен 105)

Требуемое получается вот так:

for (i=0; i<12; i++) {
	var mc = this.attachMovie("picture", "p"+i, i, {num:i});
	mc._x = ((i%4)*159)+100;
	mc._y = Math.floor(i/4)*105;
}