c=a2+b2、
s=c−1 とおく。条件より
s>0、また
b=0 である。
(1)
Q は直線
AP 上にあるので、ある実数
λ を用いて
AQ=λAPと書ける。
b=0 より
AP=0。さらに
OQ⊥AP だから
OQ=OA+AQ=−AO+λAP,0=OQ⋅AP=−AO⋅AP+λ∣AP∣2.よって
AP⋅AO=λ∣AP∣2 であり、
∣AQ∣2=λ2∣AP∣2=∣AP∣2(AP⋅AO)2.したがって
(AP⋅AO)2=∣AP∣2∣AQ∣2.(2)
OQ⊥AQ なので、直角三角形
AOQ で
∣AO∣2=∣OQ∣2+∣AQ∣2.また
∣AO∣2=c であるから、
∣OQ∣=1 は
∣AQ∣2=c−1=s と同値である。座標から
AP=(x−a,y,−b),AO=(−a,0,−b),AP⋅AO=c−ax,∣AP∣2=(x−a)2+y2+b2.(1)を使うと、求める軌跡は
(c−ax)2=s((x−a)2+y2+b2)で表される。展開して整理すると
(1−b2)x2−sy2−2ax+c=0,s=a2+b2−1>0.この変形は
∣OQ∣=1 と同値であり、余分な点は加わらない。
b2<1 のとき、平方完成すると
(1−b2)(x−1−b2a)2−sy2=1−b2b2s,したがって
(1−b2)2b2s(x−1−b2a)2−1−b2b2y2=1.これは双曲線である。
b2=1 のとき、
s=a2>0 なので
a=0 であり、軌跡の式は
2ax+a2y2=a2+1となる。これは放物線である。
b2>1 のとき、平方完成すると
(b2−1)(x+b2−1a)2+sy2=b2−1b2s,したがって
(b2−1)2b2s(x+b2−1a)2+b2−1b2y2=1.これは楕円である。いずれも分母は正であるため、各場合で実際の二次曲線となる。