(I)把f(x)的解析式利用二倍角的正弦、余弦函数公式及两角差的正弦函数公式化为一个角的正弦函数,根据x的范围求出这个角的范围,根据正弦函数的值域即可得到f(x)的最大值和最小值;
(II)由f(C)=0,代入f(x)中,根据C的范围,利用特殊角的三角函数值即可得到C的度数,根据平面向量平行时满足的条件得到sinB=2sinA,根据正弦定理得到a与b的关系式,记作①,又根据余弦定理,由c和cosC的值,得到a与b的另一个关系式,记作②,联立①②即可求出a与b的值.
【解析】
(I)f(x)=sinxcosx-cos2x+sin2x-1
=sin2x-cos2x-1
=sin(2x-)-1
∵x∈[0,],∴-≤2x-≤,
∴-≤sin(2x-)≤1,
∴函数f(x)的最小值时-,最大值时0;
(II)由f(C)=0,得到sin(2C-)-1=0,∵0<C<π,∴C=,
又∵向量=(1,sinA)与向量=(2,sinB)共线,∴sinB-2sinA=0,
由正弦定理得:b-2a=0①,
又由余弦定理得:a2+b2-2abcosC=c2,即a2+b2-ab=3②,
联立①②,解得a=1,b=2.