根据方程根的个数与判别式之间的关系证明△>0恒成立,由题意判断出另一个根的范围,再由f(1)>0求出a的范围,利用f(0)<0进一步确定两个根的关系,再由韦达定理求出a范围,再取交集.
【解析】
∵|x2|<x1(1-x2),∴x1(1-x2)>0,又∵0<x1<1,∴x2<1
设f(x)=(a2+1)x2-2ax-3,∵方程有两根,∴△=4a2+12(a2+1)>0恒成立,
则f(1)=a2-2a-2>0,解得a>1+或a<1-;
∵f(0)=-3,∴x2<0<x1<1,
则|x2|<x1(1-x2)可化简为:x1+x2>x1x2,利用韦达定理得>-
解得a>-.
∴实数a的取值范围是:(-,1-)∪(1+,+∞)
故选C.