(1)利用正弦定理化简已知的等式,变形后得到sin2A=sin2B,可得A=B或A与B互余,由cosA与cosB的比值不为1,得到A与B不相等,故A与B互余,可得C为直角,得证;
(2)由C为直角,利用勾股定理,AB的值及AC与BC的比值,求出AC及BC的值,设三角形内切圆的圆心为M,连接MA,MB,MC,把三角形分为三个三角形,三个三角形的高为内切圆的半径,利用三个三角形面积之和等于三角形ABC的面积列出关于r的方程,求出方程的解即可得到r的值,得到M的坐标,由圆心和半径写出内切圆的标准方程即可;
(3)由AC与BC的比值,设出AC=3a,BC=4a,进而得到A和B的坐标,又AB=t,利用勾股定理得到a与t的关系式,用t表示出a,且表示出此时内切圆的标准方程,设P的坐标为(x,y),利用两点间的距离公式表示出PA2+PB2+PC2,整理后,将设出的圆标准方程代入得到PA2+PB2+PC2=-2ax+22a2,可得当x=0时,PA2+PB2+PC2取得最大,把x=0代入此时y的值,得到P的坐标.
【解析】
(1)由正弦定理得,,又
∴=,即sinAcosA=sinBcosB,
∴sin2A=sin2B,
解得:A=B或A+B=90°,
又,
∴A≠B,
∴∠C=90°;
(2)由(1)得,AC2+BC2=AB2,又,AB=5,
∴AC=3,BC=4,
设圆心为M,连接MA,MB,MC,
由,
解得r=1,
∴M(1,1),
∴圆的方程为:(x-1)2+(y-1)2=1;
(3)设P(x,y),A(0,3a),B(4a,0),(a>0),AB=t,
∴,此时内切圆方程为:(x-a)2+(y-a)2=a2,
∴PA2+PB2+PC2=x2+(y-3a)2+(x-4a)2+y2+x2+y2=3[(x-a)2+(y-a)2]-2ax+19a2,
∵P(x,y)为内切圆上的点,
∴PA2+PB2+PC2=3a2-2ax+19a2=-2ax+22a2,又0≤x≤2a,
∴当x=0时,PA2+PB2+PC2的最大值=,
所以,当P坐标为时,PA2+PB2+PC2的最大值为.