(1)根据奇函数性质有f(0)=0,可求出b,由可求得a值.
(2)根据函数单调性的定义即可证明;
(3)根据函数的奇偶性、单调性可去掉不等式中的符号“f”,再考虑到定义域可得一不等式组,解出即可.
【解析】
(1)因为f(x)为(-1,1)上的奇函数,所以f(0)=0,即b=0.
又f()=,所以=,解得a=1.
所以f(x)=.
(2)设-1<x1<x2<1,
则f(x1)-f(x2)=-=,
因为-1<x1<x2<1,所以x1-x2<0,1-x1x2>0,
所以f(x1)-f(x2)<0,即f(x1)<f(x2).
所以函数f(x)在(-1,1)上是增函数;
(3)f(t-1)+f(t)<0可化为f(t-1)<-f(t).
又f(x)为奇函数,所以f(t-1)<f(-t),
f(x)为(-1,1)上的增函数,所以t-1<-t①,且-1<t-1<1②,-1<t<1③;
联立①②③解得,0<t<.
所以不等式f(t-1)+f(t)<0的解集为.