解:把y=kx+√2 (1)
代入x^2/3+y^2=1得x^2+3(kx+√2)^2=3,
即(3k^2+1)x^2+6√2kx+3=0,
设A(x1,y1),B(x2,y2),则x1+x2=-6√2k/(3k^2+1),x1x2=3/(3k^2+1)。
由(1),y1y2=(kx1+√2)(kx2+√2)=k^2*x1x2+√2k(x1+x2)+2=(2-3k^2)/(3k^2+1),
由向量OA•向量OB=1得x1x2+y1y2=1,即3+2-3k^2=3k^2+1,k^2=2/3,k=土(√6)/3。
。