(1)
p=OP とおくと、
PA=a−p、
PB=b−p である。条件式から
5p=(a−p)−3(b−p)=a−3b+2p従って
OP=31a−b。
(2)
重心
G の位置ベクトルは
OG=31(a+b+c) である。直線
PG 上の点
X は、実数
t を用いて
OX=OP+t(OG−OP) と書けるから、
OX=31a+(−1+34t)b+3tc.平面
OAC 上では
b の係数が
0 だから
t=43。したがって
OQ=31a+41c である。
(3)
s=OAOR とし、
OR=sa、
u=31−s とおく。
PQ を斜辺とするので、
RP⊥RQ である。
RP=ua−b,RQ=ua+41c.正四面体の一辺の長さを
L とすれば
∣a∣=∣b∣=∣c∣=L、
a⋅b=a⋅c=b⋅c=2L2 である。よって直交条件は
0=RP⋅RQ=L2(u2−83u−81),すなわち
8u2−3u−1=0 である。従って
u=163±41 で、
s=31−u=487∓341.R は線分
OA 上にあるので
0≦s≦1 である。
7−341<0 より負の値を除き、
OAOR=s=487+341.位置ベクトルで条件を整理して
P を求める。
PG を媒介変数で表し、平面
OAC 上の条件で
Q を定める。最後に正四面体の辺ベクトルの内積を使って
RP⊥RQ を式にし、線分上の範囲で二次方程式の根を選ぶ。