原点
O、点
A(a,1/a)、
B(b,1/b) の三角形の面積を座標で表すと
S=21a⋅b1−b⋅a1=21ba−ab=2ab∣a2−b2∣となる。
(2) では
u=θ−4π とおくと
0<u<π である。加法定理より
b−a=sinθ−cosθ=2sinu>0.また
a,b≧2−1>0 だから、
b>a>0 であり、(1) の絶対値を外して
f(θ)=2abb2−a2=2ab(b−a)(a+b)と書ける。さらに
sinθ+cosθ=2cosu,sinθcosθ=21cos2uなので
a+b=2(2+cosu),ab=2+2cosu+21cos2u=cos2u+2cosu+23.したがって
f(θ)=cos2u+2cosu+23(2+cosu)sinu.c=cosu とおく。
0<u<π より
−1<c<1、かつ
sinu=1−c2 であるから、面積は
g(c)=c2+2c+23(c+2)1−c2となる。分母は
(c+1)2+21>0 であり、微分すると
g′(c)=−1−c2(2c2+4c+3)22(2c+1)(4c+5).−1<c<1 では分母が正で
4c+5>0 だから、
g′(c)>0 は
c<−1/2 のとき、
g′(c)<0 は
c>−1/2 のときに成り立つ。よって最大となるのは
c=−1/2、すなわち
u=32π のときである。したがって
θ=u+4π=1211π.このとき
f(θ)=g(−21)=4323⋅23=3.また
u→0+,π− では
sinu→0 で面積は
0 に近づく。求めた点は許容区間の内部にあり、導関数の符号がそこで正から負へ変わることとも一致する。