[enormous_squid]

Гугли constructive solid geometry.
В общем случае для двух произвольных тел это довольно сложная задача, хотя есть куча алгоритмов.
На самом деле лучше не париться, а взять готовый кусок кода из блендера.