根据题意,当直线MA、MB分别与双曲线相切于点A、B时,可得∠AMB取得最大值.因此设直线AM方程为y=k(x-1),与双曲线联解并利用根的判别式,解出k=.设直线AM倾斜角为θ,得∠AMB=2θ且tanθ=,最后利用二倍角的三角函数公式,即可算出∠AMB达到最大值时∠AMB的余弦值.
【解析】
根据题意,当直线MA与双曲线相切于点A,直线MB与双曲线相切于点B时,
∠AMB取得最大值.
设直线AM方程为y=k(x-1),与双曲线消去y,得
(-k2)x2+2k2x-k2-1=0
∵直线MA与双曲线相切于点A,
∴(2k2)2-4×(-k2)×(k2-1)=0,解之得k=(舍负)
因此,直线AM方程为y=(x-1),同理直线BM方程为y=-(x-1),
设直线AM倾斜角为θ,得tanθ=,且∠AMB=2θ
∴cos2θ===,即为∠AMB最大时的余弦值
故选:D