[Cruser]

// Расстояния между кругами по Х и У
var dx = (x1 - x2); 
var dy = (y1 - y2);
// Угол
var alpha = -Math.atan2(dx, dy)/(Math.PI/180)+90;

y3 = y2 - R2 * Math.sin(alpha *(Math.PI/180));
x3 = x2 - R2 * Math.cos(alpha *(Math.PI/180));

А если так?