(1)由题意可得f(0)=0,从而可求得a,又f(x)是奇函数,可求得b;
(2)由函数单调性的定义判断即可.任取x1,x2∈(1,+∞),设x1<x2,作差f(x1)-f(x2)后化积,判断符号即可.
【解析】
(1)∵f(x)=是奇函数,
∴f(0)==0,
∴a=0;…(2分)
又因f(-x)=-f(x),即,
∴b=0…(4分)
(2)函数y=f(x)在(1,+∞)单调递减….(6分)
证明:任取x1,x2∈(1,+∞),设x1<x2,
则
=,…(8分)
∵x1<x2,
∴x1-x2<0;
∵x1>1,x2>1,
∴1-x1x2<0
∴f(x1)-f(x2)>0,
∴f(x1)>f(x2)…(10分)
函数y=f(x)在(1,+∞)单调递减…(12分)