求λ取何值时，齐次方程组

楼主的做法是正确的
接下来代入矩阵方程
右侧是齐次的,行变换后还都是0,不用写了
lambda=-3时,
1 3 0
4 0 1
-5 -3 -1
做行变换,第三行加第二行
1 3 0
4 0 1
-1 -3 0
第一三行线性相关
那么x1任意,x2=-1/3 x1, x3=-4 x1.
lambda=-1时,
-3 3 0
4 0 1
-5 -1 -1
做行变换,第三行加第二行
-3 3 0
4 0 1
-1 -1 0
同样有两行线性相关
那么x1任意,x2=x1,x3=-4 x1.