先把不等式a2+3b2+6<2ab-8b变形得到(a-b)2+2(b+2)2<2,因为a,b都为整数,所以只有(a-b)2=0,2(b+2)2=0或(a-b)2=1,2(b+2)2=0两种情况,从而可求解.
证明:∵a2+3b2+6<2ab-8b
∴a2-2ab+b2+2b2+8b+6<0
(a-b)2+2(b+2)2<2(3分)
∵a,b均为整数,
∴只有(a-b)2=0,2(b+2)2=0或(a-b)2=1,2(b+2)2=0两种情况.(2分)
(1)当(a-b)2=0,2(b+2)2=0时,(2分)
(2)当(a-b)2=1,2(b+2)2=0时,,(2分)
综上,当,,时,原不等式成立.(1分)