[Krusty]

То, что вы написали, вашей картинкой не подтверждается. У вас процесс nginx на момент запуска и после 3 часов работы весит одинаково. Свободная память уходит под кэш, причем системный. И это совершенно правильное поведение. И что вас не устраивает?