1、因为r(A)=2,所以Ax=0的
基础解系含有一个向量,即它的任一非零解都是它的基础解系;因为AB=0 ==》 A*(1,2,3)'=0('表示转置),即x=(1,2,3)'是Ax=0的解,所以ξ=(1,2,3)'是基础解系,从而得到,方程Ax=0的通解是x=t*ξ=t*(1,2,3)'。
2、因为r(A)=1,即Ax=0经行初等变换(消去法)可以化为
方程组
a*x1+b*x2+c*x3=0
0*x1+0*x2+0*x3=0
0*x1+0*x2+0*x3=0
这个方程组是与Ax=0同解的,另一方面,这个方程组又是与方程a*x1+b*x2+c*x3=0同解的,因为第2、3个方程实际上是恒等式——第1个方程的解一定是方程组的解,另一方面,方程组的解当然一定是第1个方程的解。
所以a*x1+b*x2+c*x3=0与Ax=0是同解的。
AB=0,即B的列向量都是Ax=0的解,
所以B的列向量都是a*x1+b*x2+c*x3=0的解,从而有
a+2b+3c=0……(1)
2a+4b+6c=0……(2)
3a+6b+kc=0……(3)
(2)-2*(1):0=0……(4)
(3)-3*(1):(k-9)c=0……(5)
故a、b、c满足(1)、(5)两式((4)是恒等式当然满足的)。