(1)令a=b=1,得f(1)=f(1)-f(1)=0,即可求出f(1);
(2)设x1,x2∈(0,+∞),设x1<x2,,由已知得出f(x2)-f(x1)=f(),且能得出f()>0,确定出f(x1)<f(x2)后即可判断出函数f(x)在R上单调性.
(3)由(2),不等式化为f(x(x-8))>f(9),即,利用解不等式的方法得出x的取值范围.
【解析】
(1)取a=b=1,得f(1)=f(1)-f(1)=0,所以f(1)=0.
(2)函数在(0,+∞)上是单调增函数.
任取x1,x2∈(0,+∞),设x1<x2,则f(x2)-f(x1)=f(),因为0<x1<x2,所以>1,又当x>1时,有f(x)>0,所以f(x2)-f(x1)=f()>0,即f(x2)>f(x1).所以f(x)在(0,+∞)上是单调增函数.
(3)若f(3)=1,则2=1+1=f(3)+f(3)=f(9),f(x)-f()=f(x(x-8)),则不等式f(x)-f()>2可以化为f(x(x-8))>f(9),即,解得x>9.即不等式的解集为(9,+∞).