(Ⅰ)先根据f(x)<0的解集是(0,5)设f(x)=Ax(x-5)(A>0),再结合在区间[-1,4]上的最大值是12求出A.即可得到结论;
(Ⅱ)先把不等式转化;进而得到x(x-5)(ax+5)>0;再通过讨论几个根的大小即可得到不等式的解集.
解(I)∵f(x)是二次函数,且f(x)<0的解集是(0,5)
∴可设f(x)=Ax(x-5)(A>0),(2分)
∴f(x)的对称轴为且开口向上.
∴f(x)在区间[-1,4]上的最大值是f(-1)=6A=12.∴A=2.
∴f(x)=2x(x-5)=2x2-10x.(4分)
(Ⅱ)由已知有.
∴x(x-5)(ax+5)>0.
又a<0,∴.(6分)
(i)若-1<a<0,则,∴x<0或.(8分)
(ii)若a=-1,则x<0.(9分)
(iii)若a<-1,则,
∴x<0或.(11分)
综上知:
当-1<a<0时,原不等式的解集为;
当a=-1时,原不等式的解集为{x|x<0};
当a<-1时,原不等式的解集为.(12分)