Existe um método mais fácil de resolver o que vc quer... não vou fazer por ser extremamente longo e trabalhoso... é o método de Gauss-Jordan, procure na internet!

Eu ate tentei fazer pra vc, mais

Deve entender de multiplicação de matrizes pra desenvolver esse problema.

Leia esse artigo que deve iluminar um pouco suas duvidas.

Um abraço.

http://www.mundoeducacao.com/matematica/matriz-inv...