2ベクトル
u=(u1,u2)、
v=(v1,v2) に対し
Δ(u,v)=u1v2−u2v1 とおく。この成分の積の差の符号は向きを表し、同じ始点からの2ベクトルを辺とする三角形の面積は、内積と面積公式から
∣Δ(u,v)∣/2 である。まず、方べきの定理より
BA1⋅BA4=BA2⋅BA5である。正三角形
A1A2Bより
BA1=BA2=aなので
BA4=BA5。また
∠A4BA5=60∘であるから、三角形
A4BA5も正三角形であり、
BA4=BA5=A4A5=bとなる。
Bを原点とし、
BA1,BA2の方向がそれぞれ正の
x軸となす角を
30∘,−30∘とする。このとき
A1=(23a,2a),A2=(23a,−2a),A4=(−23b,−2b),A5=(−23b,2b).円の中心
Oは
x軸上にあるので
O=(h,0)とおく。半径が
1であることから
OA12=OA42=1,a2−3ah+h2=b2+3bh+h2.よって
a+b>0を用いて
h=3a−bを得る。これを
OA12=1に代入すると
1=a2−a(a−b)+3(a−b)2=3a2+ab+b2,a2+ab+b2=3.(1) 弦
A2A4の中点を
Mとすると
M=(43(a−b),−4a+b),OM2=48(a−b)2+16(a+b)2=12a2+ab+b2=41.また
A3A2=A3A4より
A3は
A2A4の垂直二等分線上にある。
C=2M−Oとおくと
OC=2OM=1であり、
Cは弦
A2A4の垂直二等分線上にある。頂点の順序から
A3は弦
A2A4に関して
Bと反対側にある。実際、
Δ(A4−A2,B−A2)=−23ab<0に対し、関係式
a2+ab+b2=3から
Δ(A4−A2,C−A2)=23>0である。よって
A3=Cであり、
A3=(63(a−b),−2a+b),A3B2=12(a−b)2+4(a+b)2=3a2+ab+b2=1.したがって
A3B=1。
(2) (1)で得た関係式を
bについて解くと
b2+ab+(a2−3)=0,b=2−a±12−3a2.長さ
bは正であるから正の方の値を採用し、
b=212−3a2−a.また
a2+ab+b2=3と
b>0から
0<a<3である。
(3)
Bは凸五角形の内部にあるので、その面積は
Bを頂点とする5個の三角形の面積の和である。座標で
Δ((u1,u2),(v1,v2))=u1v2−u2v1とおけば、各面積はこの成分の積の差の絶対値の半分であり、
[△BA1A2][△BA3A4][△BA5A1]=43a2,=123b(2a+b),=43ab.[△BA2A3][△BA4A5]=123a(a+2b),=43b2,[△BA1A2]=43a2,[△BA2A3]=123a(a+2b),[△BA3A4]=123b(2a+b),[△BA4A5]=43b2,[△BA5A1]=43ab.したがって
S=123(4a2+7ab+4b2)=123(4(a2+ab+b2)+3ab)=3(1+4ab).さらに
3=a2+ab+b2≧3abであり、等号は
a=bのときに限る。等号時は
3a2=3、したがって
a=b=1。ゆえに
ab≦1であり、
Sの最大値は
Smax=3(1+41)=453である。