首先连接AC,则可证得△AEM∽△CFM,根据相似三角形的对应边成比例,即可求得EM与FM的长,然后由勾股定理求得AM与CM的长,则可求得正方形与圆的面积,则问题得解.
【解析】
连接AC,
∵AE丄EF,EF丄FC,
∴∠E=∠F=90°,
∵∠AME=∠CMF,
∴△AEM∽△CFM,
∴,
∵AE=6,EF=8,FC=10,
∴,
∴EM=3,FM=5,
在Rt△AEM中,AM==3,
在Rt△FCM中,CM==5,
∴AC=8,
在Rt△ABC中,AB=AC•sin45°=8•=4,
∴S正方形ABCD=AB2=160,
圆的面积为:π•()2=80π,
∴正方形与其外接圆之间形成的阴影部分的面积为80π-160.
故答案为:80π-160.