设平面上P、Q两点的坐标分别是（cos x/2,sin x/2)、(-cos 3x/2,sin3x/2

PQ=(-cos 3x/2,sin3x/2)-（cos x/2,sin x/2)
=(-cos3x/2-cosx/2,sin3x/2-sinx/2)
则|PQ|=根号(PQ^2)
=根号[(-cos3x/2-cosx/2)^2+(sin3x/2-sinx/2)^2]
=根号[(cos^2 x/2+cos^2 3x/2+2*cos3x/2*cosx/2)+(sin^2 3x/2+
sin^2 x/2-2*sin3x/2*sinx/2)]
=根号[(sin^2 x/2+cos^2 x/2)+(sin^2 3x/2+cos^2 3x/2)+
2(cos3x/2*cosx/2-sin3x/2*sinx/2)]
=根号[2+2*cos(3x/2+x/2)]
=根号[2+2*cos2x]
=根号[2+2*(2cos^2 x-1)]
=根号[2+4cos^2 x-2]
=2*|cosx|
又x∈[0，π/2]
则|PQ|=2cosx,cosx∈[0,1]
则f(x)=PQ^2-4a*|PQ|
=4cos^2 x-4a*2cosx
=4cos^2 x-8acosx
=4(cosx-a)^2-4a^2
则当a>1时cosx=1时,f（x）的最小值=4-8a
当a<0时cosx=0时,f（x）的最小值=0
当0=<a<=1时cosx=a时,f（x）的最小值=-4a^2