Тут не надо заморачиваться. Просто нужно логически размышлять.
В 1м случае по скольку c целое число - берется его целая часть - это 0.
Во 2м все понятно, как и должно быть.
В 3м берётся потолок из 0.6 - это 1 (кстати типа Number), который отлично (в данном случае автоматически) преобразуется в int и выводится тебе.
Что тут может быть неясно?
Я бы на твоем месте больше волновался про приведение к другого рода типам.
Например помнить, что:

Код:
var c:int = Math.ceil(a/b);
trace(c); //тут происходит trace(c.toString()); автоматически