由题意得:点A(1,0),B(2,1)在直线ax+by=1的两侧,那么把这两个点代入ax+by-1,它们的符号相反,乘积小于等于0,即可得出关于a,b的不等关系,画出此不等关系表示的平面区域,结合线性规划思想求出a2+b2的取值范围.
【解析】
∵直线ax+by=1与线段AB有一个公共点,
∴点A(1,0),B(2,1)在直线ax+by=1的两侧,
∴(a-1)(2a+b-1)≤0,
即或;
画出它们表示的平面区域,如图所示.
a2+b2表示原点到区域内的点的距离的平方,
由图可知,当原点O到直线2x+y-1=0的距离为原点到区域内的点的距离的最小值,
∵d=,
那么a2+b2的最小值为:d2=.
故选A.