(1)根据f(x)是定义域为R的奇函数,可得f(0)=0,由此求得实数k的值.
(2)由a>1,可得函数f(x)=ax-a-x=ax-在R上是增函数.
(3)原不等式化为f(x2+2x)>f(4-x),由函数的单调性可得x2+2x>4-x,解此一元二次不等式,求得不等式的解集.
【解析】
(1)∵f(x)是定义域为R的奇函数,∴f(0)=0,∴k-1=0,∴k=1,经检验k=1符合题意.…..(3分)
(2)因为a>1,所以函数f(x)=ax-a-x=ax-在R上是增函数. …..(6分)
(3)原不等式化为f(x2+2x)>f(4-x),…..(7分)
因为在R上单调递增,故有x2+2x>4-x,即x2+3x-4>0,
解得x>1或x<-4,因此,不等式的解集为{x|x>1或x<-4}.…..(10分)