Question

已知函数f（x），若f（x）=x，则称x为f（x）的“不动点”；若f（f（x））=x，则称x为f（x）的“稳定点”．记集合A={x|f（x）=x}，B={x|f（f（x））=x}
（1）已知A≠∅，若f（x）是在R上单调递增函数，是否有A=B？若是，请证明．
（2）记|M|表示集合M中元素的个数，问：（i）若函数f（x）=ax²+bx+c（a≠0），若|A|=0，则|B|是否等于0？若是，请证明，（ii）若|B|=1，试问：|A|是否一定等于1？若是，请证明．

Answer

（1）先用所给定义证明A⊆B，再根据单调性用反证法证明B⊆A；
（2）（i）|A|=0即f（x）=x无实根，分a＞0，a＜0两种情况即可证明；（ii）先根据定义可证明存在性，再用反证法证明唯一性即可；
（1）证明：有A=B．先证
任取x∈A，则f（x）=x，f（f（x））=f（x）=x，
∴x∈B，∴A⊆B；
再证 任取y∈B，f（f（y））=y，
若f（y）≠y，不妨设f（y）＞y，
由单调递增可知：f（f（y））＞f（y）＞y，与f（f（y））=y矛盾，
同理f（y）＜y也矛盾，所以f（y）=y，∴B⊆A，
综上，A=B．
（2）（i）若|A|=0，则|B|=0，下面证明：
若a＞0，由于f（x）=x无实根，则对任意实数x，f（x）＞x，从而f（f（x））＞f（x）＞x，
故f（f（x））=x无实根；
同理，若a＜0，对任意实数x，f（x）＜x，从而f（f（x））＜f（x）＜x，
故f（f（x））=x也无实根，
所以|B|=0．
（ii）若|B|=1，则|A|=1，下面证明：
存在性：不妨设x是B中唯一元素，则f（f（x））=x，
令f（x）=t，f（t）=x，那么f（f（t））=f（x），而f（x）=t，故f（f（t））=t，说明t也是f（f（x））的不动点，
由于f（f（x））只有唯一的不动点，故x=t，即f（t）=t，这说明t也是f（x）的不动点，从而存在性得证；
以下证明唯一性：若f（x）还有另外一个不动点m，即f（m）=m，m≠t，
则f（f（m））=f（m）=m，这说明f（f（x））还有另外一个稳定点m与题设矛盾．
故唯一性得证．