(1)利用函数 为奇函数,且 f()=,可得 f(-)=-f()=-,从而得到关于a、b的方程组,解之即可;
(2)直接利用单调性的定义即可证明;
(3)利用f(x)为奇函数,将不等式f(t-1)+f(t)<0转化为f(t)<-f(t-1)=f(1-t),再利用函数f(x)在区间(-1,1)上是增函数得到关于t的不等式 组,解之即可.
【解析】
:(1)∵为奇函数,且 f()==,
∴f(-)==-f()=-,解得:a=1,b=0.
∴f(x)=.
(2)证明:在区间(-1,1)上任取x1,x2,令-1<x1<x2<1,
∴f(x1)-f(x2)==;
∵-1<x1<x2<1
∴x1-x2<0,1-x1x2>0,1+x12>0,1+x22>0
∴f(x1)-f(x2)<0即f(x1)<f(x2)
故函数f(x)在区间(-1,1)上是增函数.
(3)∵f(t-1)+f(t2)<0
∴f(t2)<-f(t-1)=f(1-t)
∵函数f(x)在区间(-1,1)上是增函数
∴
∴0<t<
故关于t的不等式的解集为 (0,).