Как найти базис корневого подпространства линейного оператора?

Вы нашли (каким-то способом) подпространство K, заданное четырьмя векторами:

v1 = (1,1,1,1)
v2 = (-1,0,0,0)
v3 = (0,-1,0,0)
v4 = (0,0,-1,0)

Теперь необходимо найти базис: набор независимых векторов, с помощью которых можно выразить любой вектор из подпространства K.

В данном случае, максимально возможное число независимых векторов - 4, по размерности векторов входящих в подпространство K (у векторов - четыре координаты).

Проверим, является ли набор {v1,v2,v3,v4} векторов линейно независимым.

Для этого можно составить матрицу A

 1  1  1  1
-1  0  0  0
 0 -1  0  0
 0  0 -1  0

и посчитать ее определитель:

det(A)=1≠0

который отличен от нуля, а значит вектора {v1,v2,v3,v4} - линейно независимы (как и замечено в одном из комментариев) и составляют базис подпространства K. Заметим, что использование определителя для определения ранга матрицы плохое и неоправданное решение в общем случае, особенно если речь идет о предаставлении числе в компьютере с помощью арифметики с плавающей точкой. В этом случае версии QR-разложенияб, SVD разложения (а также другие способы) сильно предпочитетельней и с точки зрения надежности, и с точки зрения эффективности.

Теперь, очевидно, что любой вектор из K может быть выражен с помощью базиса {v1,v2,v3,v4}, и {v1,v2,v3,v4} покрывают R^4.

Базис можно нормировать (поделить каждый вектор на его длину), однако это необязательно.