3金沢大学 2022年 数学 第3問解答・解説

解と係数の関係から $\alpha+\beta=-p,\alpha\beta=q$。条件より
$$p^2-3q=3,\qquad M=\frac{q}{q^2+(\alpha^2+\beta^2)+1}=\boxed{\frac q{q^2+q+4}}.$$
$p$ が実数である条件 $p^2=3q+3\geqq0$ と、方程式が実数解をもつ条件 $p^2-4q=3-q\geqq0$ より $-1\leqq q\leqq3$。逆にこの範囲の各 $q$ に対して $p=\pm\sqrt{3q+3}$ とすれば実数解が得られる。
$g(q)=q/(q^2+q+4)$ とおくと
$$g'(q)=\frac{4-q^2}{(q^2+q+4)^2}.$$
したがって $-1\leqq q\leqq2$ で増加、$2\leqq q\leqq3$ で減少。$g(-1)=-1/4,g(2)=1/5,g(3)=3/16$ より、最大値は $\boxed{1/5}$、最小値は $\boxed{-1/4}$。
最大時は $q=2,p=\pm3$ だから $(\alpha,\beta)=\boxed{(1,2),(-2,-1)}$。最小時は $q=-1,p=0$ だから $(\alpha,\beta)=\boxed{(-1,1)}$。いずれの組も $\alpha^2+\beta^2-\alpha\beta=3$ を満たす。