(1)利用余弦定理及三角形的面积公式化简S=c2-(a-b)2后,利用同角三角函数间的基本关系求出sinC的值,然后求出cosC的值;
(2)根据a+b=1,利用基本不等式即可求出面积S的最大值.
【解析】
由面积公式S△ABC=absinC代入条件S△ABC=c2-(a-b)2,得
absinC=c2-(a-b)2,
余弦定理c2=a2+b2-2abcosC,
absinC=c2-(a-b)2,化为 absinC=2ab(1-cosC)
∴=,令1-cosC=k,sinC=4k(k>0)
由cos2C+sin2C=(1-k)2+(4k)2=1,得k=,
∴sinC=4k=.
∴cosC=1-k=.
(2)∵a>0,b>0,且a+b=1,
∴S=absinC=ab≤•=,当且仅当a=b=时,Smax=.
所以三角形面积的最大值为:.