Question

已知函数f（x）=是定义在R上的奇函数．
（1）求a，b的值．（2）判断函数f（x）的单调性并证明；
（3）若对任意t∈R，m∈[-1，1]，f（t²-2mt）+f（2t²-k）＜0恒成立，求实数k的取值范围．

Answer

（1）根据题意，由于函数f（x）是定义在R上的奇函数，则有f（0）=0，f（1）=-f（-1），代入数据，计算可得a、b的值；
（2）首先对f（x）的表达式变形可得f（x）=（-1），用作差法判断函数单调性即可；
（3）由于f（x）是奇函数，f（t2-2mt）+f（2t2-k）＜0可以变形为f（t2-2mt）＜f（k-2t2），又由f（x）为减函数，进一步可以变形为t2-2mt＞k-2t2，即3t2-2mt-k＞0对任意的t∈R恒成立，由二次函数的性质，可得△=4m2+12k＜0，即-3k＞m2对于m∈[-1，1]恒成立，解可得答案．
【解析】
（1）因f（x）=是定义在R上的奇函数，
则有f（0）=0，即=0，解可得b=1；
又f（1）=-f（-1），即=-，解可得a=3．
（2）由（1）可得，f（x）==（-1）
设x1＜x2，
则f（x1）-f（x2）=（-）=（），
分析易得＞＞0，
则f（x1）-f（x2）＞0，
故f（x）是减函数；
（3）f（x）是奇函数，所以f（t2-2mt）＜f（k-2t2）
又由（1）得，f（x）==（-1），且f（x）为减函数，
则t2-2mt＞k-2t2，即3t2-2mt-k＞0对任意的t∈R恒成立，
有△=4m2+12k＜0，即-3k＞m2对于m∈[-1，1]恒成立，
得-3k＞1，即k＜-；
故k的取值范围是k＜-．