(1)(a)
$\newcommand\H{\hat{H}}$
$$\b
\H \Psi&=&E \Psi \\
&&上式の左側から\Psi^*を掛けて全空間について積分すると、 \\
E&=&\f{\int \Psi^*\H\Psi \d τ}{\int \Psi^*\Psi \d τ} \\
&=&\f{\int (c_1χ_1+c_2χ_2)\H(c_1χ_1+c_2χ_2)\d τ}{\int (c_1χ_1+c_2χ_2)(c_1χ_1+c_2χ_2)\d τ} \\
&=&\f{c_1^2\int χ_1\Hχ_1 \d τ+c_1c_2\int χ_1\Hχ_2\d τ+c_2c_1\int χ_2\Hχ_1\d τ+c_2^2\int χ_2\Hχ_2 \d τ }{c_1^2\int χ_1χ_1 \d τ+2c_1c_2\int χ_1χ_2\d τ+c_2^2\int χ_2χ_2 \d τ } \\
&=&\f{c_1^2\int χ_1\Hχ_1 \d τ+c_2^2\int χ_2\Hχ_2 \d τ+2c_1c_2\int χ_1\Hχ_2\d τ }{c_1^2\int χ_1χ_1 \d τ+c_2^2\int χ_2χ_2 \d τ +2c_1c_2\int χ_1χ_2\d τ} \\
&=&\f{c_1^2H_{11}+c_2^2H_{22}+2c_1c_2H_{12}}{c_1^2S_{11}+c_2^2H_{22}+2c_1c_2H_{12}}\\
\e $$となる。
(1)(b)
よって、変分法の停留条件$\ddp{E}{ c_1}=\ddp{E}{c_2}=0$より、
$$
{\begin{vmatrix}
H_{11}-ES_{11} & H_{12}-ES_{12} \\
H_{12}-ES_{12} & H_{11}-ES_{22} \\
\end{vmatrix}}=0$$ が成り立つ。これを計算していく。
$$\b
{\begin{vmatrix}
H_{11}-ES_{11} & H_{12}-ES_{12} \\
H_{12}-ES_{12} & H_{11}-ES_{22} \\
\end{vmatrix}}&=&0 \\
{\begin{vmatrix}
α-E & β \\
β& α-E \\
\end{vmatrix}}&=&0(\because 仮定１～３) \\
&=& \\
&=& \\
&=& \\
\e$$ まだ書きかけです。