[Zebestov]

Проделав эти операции в фотошопе (Filter > Other > Custom), я сделал открытие: это нифига не акварельный фильтр =)
Поэтому у тебя, вероятнее всего, правильно реализован алгоритм, который заведомо не должен давать ожидаемого результата.