设BC=a,连接BA1,BC1,根据AC与BC1成60°角可得∠A1C1B=60°,根据直三棱柱ABC-A1B1C1的侧面AA1B1B是边长为5的正方形可得出△BA1C1为等边三角形,故BA1=BC1,可求出a,再借助AB⊥BC,即可求出AC长.
【解析】
设BC=a,连接BA1,BC1
∵三棱柱ABC-A1B1C1是直三棱柱且侧面AA1B1B是边长为5的正方形
∴AB=CC1=5
∴根据勾股定理可得A1B2=50,
∵AB⊥BC
∴AC2=25+a2
∵在△C1B1B中,BC12=25+a2
∴BC1=AC
∴△BA1C1为等腰三角形
∵AC与BC1成60°角且AC∥A1C1
∴∠A1C1B=60°
∴△BA1C1为等边三角形
∴50=25+a2
∴a=5
∴AC=
故选D.