Мне в своё время понравилась книга

Роджерс Д. - Алгоритмические основы машинной графики

Здесь можно оглавление посмотреть.
http://rutracker.org/forum/viewtopic.php?t=3834428