(1)由奇函数性质得:f(0)=0,f(-1)=-f(1),可求出a,b值,根据单调性的定义即可作出判断;
(2)由函数的奇偶性、单调性可去掉不等式中的符号“f”,变为具体不等式恒成立,从而可转化为函数最值问题解决.
【解析】
(1)∵f(x)为R上的奇函数,∴f(0)=0,b=1.
又f(-1)=-f(1),得a=-1.
经检验a=-1,b=1符合题意.
任取x1,x2∈R,且x1<x2,
则f(x1)-f(x2)=-=.
∵x1<x2,∴>0,又()()>0,
∴f(x1)-f(x2)>0,即f(x1)>f(x2),
所以f(x)为R上的减函数.
(2)因为不等式f(t2-2t)+f(2t2-k)<0恒成立,
所以f(t2-2t)<-f(2t2-k),
因为f(x)为奇函数,所以f(t2-2t)<f(k-2t2),
又f(x)为减函数,所以t2-2t>k-2t2,即k<3t2-2t恒成立,
而3t2-2t=3-≥-,
所以k<-.