Trong không gian với hệ tọa độ , cho hai điểm
và mặt cầu
. Mặt phẳng
(với
là các số nguyên dương và
nguyên tố cùng nhau) đi qua
và cắt
theo giao tuyến là đường tròn có bán kính nhỏ nhất. Tính tổng
.
Hình vẽ minh họa
Ta có cùng phương với
suy ra phương trình đường thẳng
.
Xét mặt cầu ⇒ I(1; 2; 3), R = 5.
Gọi là điểm trên AB sao cho AB ⊥ IH
Vì ,
Gọi r là bán kính đường tròn giao tuyến giữa (P) và (S), K là hình chiếu vuông góc của I lên (P) .
Ta có
Dấu bằng chỉ xảy ra khi K ≡ H.
Khi đó phương trình mặt phẳng (P) nhận là vectơ pháp tuyến và đi qua điểm
là