设HG=x,KD=y,根据矩形的对边平行可得HG∥EF,然后得到△AHG与△ABC相似,根据相似三角形对应高的比等于相似比列出比例式,用x表示出y,然后根据矩形的面积公式求解并整理,再利用二次函数的最值问题进行求解即可.
【解析】
如图,设HG=x,KD=y,
∵四边形EFGH是矩形,
∴HG∥EF,
∴△AHG∽△ABC,
∵AD是BC边上的高,
∴AK⊥HG,∠ADF=∠EFG=∠FGK=90°,
∴四边形DFGK是矩形,
∴KD=GF=y,
∴AK:AD=HG:BC,
∵BC=12,AD=8,
∴,
解得:y=-x+8,
∴矩形EFGH的面积为:xy=x•(-x+8)=-(x-6)2+24,
∴当x=6,即HG=6时,内接矩形EFGH有最大面积,最大面积是24.
∴EF=GH=6.
故选B.