根据函数g(x)=x2+m是(-∞,0)上的正函数建立方程组,消去b,求出a的取值范围,转化成关于a的方程a2+a+m+1=0在区间(-1,-)内有实数解进行求解.
【解析】
因为函数g(x)=x2+m是(-∞,0)上的正函数,
所以当x∈[a,b]时,
g(a)=b g(b)=a 即a2+m=b,b2+m=a,
两式相减得a2-b2=b-a,
即b=-(a+1),
代入a2+m=b得a2+a+m+1=0,
由a<b<0,
且b=-(a+1)
得-1<a<-,
故关于a的方程a2+a+m+1=0在区间(-1,-)内有实数解,
记h(a)=a2+a+m+1,
则 h(-1)>0,h(-)<0,
解得m∈(-1,-).
故答案为:(-1,-).