A=[ 2 1 -7 -3] とする,つぎのf(t)に対し,ケーレーハミルトンの定理を用いてf(A)...

jumping_junkさん

ハミルトン・ケーリーの法則は，一般には以下のような正方行列とその固有多項式に関する定理です。
Aをn次の正方行列とし，n次の単位行列をE，n次の零行列をOとします。また，|A|でAの行列式を表わすとすると，ハミルトン・ケーリーの法則とは

Aの固有多項式f(x)=|xE-A|に対し，f(A)=Oが成り立つ

というものです。

特に，Aが2次の正方行列
A=[a b]
**[c d]
のときは，

A^2-(a+d)A+(ad-bc)E=Oが成り立つ

となり，今の問題ではこれを用いるように指示されているということです。
問題の行列はa=2,b=1,c=-7,d=-3ですから，これらをハミルトン・ケーリーの法則に適用すると，
A^2-(2+(-3))A+(2×(-3)-1×(-7))E=O
整理して，
A^2+A+E=O
となります。

問われている計算をする前に，ハミルトン・ケーリーの法則がどのように活きてくるのかということに簡単に触れておきます。
例えば，この行列Aについて，A^4を計算しなければならないとします。
成分を用いて地道に計算をしてもよいのですが，時間がかかることが予想されます。
そこで，A^4=(A^2)^2であることと，ハミルトン・ケーリーの法則で得た等式を使います。
Aは，A^2+A+E=Oを満たしますから，
A^2=-A-E
です。
（これから成分を計算して，A^2を2乗してもよいですが，まだ計算しません）

これをA^4=(A^2)^2に代入すれば，
A^4=(-A-E)^2
=A^2+2A+E
となり，更にこのA^2を-A-Eで置き換えれば，
A^4=(-A-E)+2A+E=A
となり，
A^4=A=[2 1]
******[-7 -3]
と，一度も成分を計算することなく求められました。

或いは，A^3についても，
A^3=A×A^2
と分解し，A^2を-A-Eで置き換えることで
A^3=A(-A-E)=-A^2-A
再びA^2を-A-Eで置き換えて
A^3=-(-A-E)-A=E
と，こちらも成分を計算せずに求めることができます。

このように，ハミルトン・ケーリーの法則は，A^2をAとEによって表わすことにより（普通はpA+qEという形ですが），高次の冪乗であっても，低い次数（究極的には1次）の計算に帰着させる手段として威力を発揮します。
これを踏まえて，定理を利用して問題を解くと，次のようになります。

(1)
f(A)=A^20
ですが，上の考察からA^3=Eであることがわかりました。
A^20=(A^18)(A^2)=((A^3)^6)(A^2)
ですから，このA^3をEで置き換えると，
A^20=(E^6)(A^2)=A^2
となります。
得られたA^2を-A-Eに置き換えると，
A^20=-A-E=-[2 1 ]-[1 0]=[-3 -1]
***********[-7 -3]*[0 1]*[7 2 ]
となります。

(2)
f(A)=A^11+A^7-2E
ですが，(1)と同様にA^3=Eを使うようにすると，
A^11=(A^9)(A^2)=((A^3)^3)(A^2)=(E^3)(A^2)=A^2
A^7=(A^6)A=((A^3)^2)A=(E^2)A=A
となるので，
f(A)=A^2+A-2E
となります。
再びA^2=-A-Eとして，
f(A)=-A-E+A-2E=-3E
となるので，
f(A)=[-3 0 ]
****[0 -3]
です。

本来だと，A^2を置換していくことを繰返すのではなく，多項式の除法を用いて一気にAの1次式にしてしまう方法を採りますが，次数を下げるという方針と，A^3=Eを使いたかったので，やや面倒なこの方法を示しました。