Trong không gian với hệ tọa độ
, cho ba điểm
. Gọi
là mặt phẳng đi qua
sao cho tổng khoảng cách từ
và
đến mặt phẳng
lớn nhất, biết rằng
không cắt đoạn
. Khi đó pháp tuyến của mặt phẳng
:
Hình vẽ minh họa
Lấy M là trung điểm của đoạn BC, suy ra .
Gọi lần lượt là khoảng cách từ
đến mặt phẳng (P), từ đó suy ra
.
Xét tam giác vuông , ta có
, từ đó suy ra để tổng khoảng cách từ B và C đến mặt phẳng (P) thì MM’ phải lớn nhất, điều này có nghĩa là M’ trùng với A hay MA ⊥ (P).
Từ đó suy ra vectơ pháp tuyến của mặt phẳng (P) là: