解:
cos(2x-π/3)=-1 → x=2π/3不∈[0,π/2];
cos(2x-π/3)=1 → x=π/6∈[0,π/2]。
考虑到余弦函数在[0,π/2]递减,
所以,
(1)当a>0时,
f(x)|max=f(π/2)=3a+b,
f(x)|min=f(π/6)=b。
∵f(x)∈[-5,1],故有
{b=-5,
{a+b=1
解得,a=6,b=-5。
(2)当a<0时,
f(x)|max=f(π/6)=b,
f(x)|min=f(π/2)=3a+b。
∵f(x)∈[-5,1],故有
{b=1,
{3a+b=-5。
解得,a=-2,b=1。
综上知,a=6,b=-5;或a=-2,b=1。
。