На русском ничего порекомендовать не могу. Не на русском могу порекомендовать следующие книжки:
http://www.aisee.com/manual/unix/62.htm
В особенности рекомендую диссертацию Георга Зандера. В ней подробно расписаны различнейшие алгоритмы визуализации графов -- и на словах, и в виде (псевдо)кода.