Есть такое понятие: плоскость, и есть такое понятие: вектор; вектор != плоскость, это факт
По поводу самодельных трехмерных движков, есть такая книга
http://www.ozon.ru/context/detail/id/1692806/ - вариант для C, но там очень много теоретического материала по созданию, освещению и текстурированию 3d моделей - автор свое дело знает