(I)对函数f(x)=x2e-ax,进行求导,解出函数的极值点,然后根据极值点的值判断函数的单调区间;
(II)因区间[1,2]比较大,里面不是单调的增或者间,需要讨论,然后代入求解.
【解析】
(Ⅰ)f'(x)=2xe-ax+x2(-a)e-ax=e-ax(-ax2+2x)(2分)
令f'(x)>0,∵e-ax>0(3分)
∴-ax2+2x>0,解得.(4分)
∴f(x)在(-∞,0)和内是减函数,在内是增函数.(6分)
(Ⅱ)①当,即a>2时,f(x)在(1,2)内是减函数.
∴在[1,2]上fmax(x)=f(1)=e-a;(8分)
②当,即1≤a≤2时,f(x)在内是增函数,在内是减函数.
∴在[1,2]上;(10分)
③当,即0<a<1时,f(x)在(1,2)是增函数.
∴在[1,2]上fmax(x)=f(2)=4e-2a.(12分)
综上所述,当0<a<1时,f(x)在[1,2]上的最大值为4e-2a;
当1≤a≤2时,f(x)在[1,2]上的最大值为4a-2e-2;
当a>2时,f(x)在[1,2]上的最大值为e-a.(13分)