Celli, мне знакомо матричное исчисление, я когда-то это даже преподавал. Пожалуйста не обижайтесь на мои попытки добиться от вас вашего решения.
Видимо во мне проснулось преподавательское прошлое не оставлять студента с неправильно решенной задачей и обьяснить ему в чем ошибка. Поэтому мне хотелось сначала взглянуть на ход вашего решения.
Но попробую без этого.
Для того чтобы из этой матрицы составить систему уравнений, надо бы иметь еще столбец свободных членов. Т.е. матрица должна быть расширенной. Мы же имеем здесь нерасширенную матрицу. ОК. Мы можем сделать вид, что столбец свободных членов это все 0 и записать все уравнения в правой части с 0.
Тогда получим первое уравнение такое (а-1)x1 + ax2+2x3+(3-a)x4 =0
Аналогично можно записать три остальных. Теперь вопрос что нам это дает?
Ответ ничего. Решать такую систему, где вместо числовых коэффициентов стоят выражения довольно муторно и в конце получатся решения - это будут какие-то выражения с "а" для x1, x2, x3, x4.
Зачем нам они нужны, если в данной задаче сказано, что детерминант этой матрицы должен быть равен 0. Это значит, что составленная система уравнений не должна иметь никаких, либо иметь бесконечно много решений.
Поэтому я сразу и сказал, что с никакими другими уравнениями составленными из этой матрицы нет смысла решать данную задачу. Имеет смысл только составить уравнение для детерминанта, но оно получится одинаковым независимо от способа его нахождения.
Мне показалось, что вы перепутали понятиe детерминант и понятие "решение системы" (в смысле найденые значения для неизвестных в системе уравнений)