x,y是关于m的方程m2-2am+a+6=0的两个实根,则(x-1)^2+(y-1)^2的最小值是( )

楼上错误，因为当a=3/4时，方程无实根。

选C 8。

解：由根与系数的关系知
x+y=2a
xy=a+6
展开(x-1)^2+(y-1)^2
=x^2+y^2-2(x+y)+2
=(x+y)^2-2xy-2(x+y)+2
=4a^2-6a-10
由于方程有两个实根，所以其判别式△=4a^2-4(a+6)≥0，展开

△=4a^2-4(a+6)
=4a^2-4a-24
=4(a^2-a-6)
=4(a-3)(a+2)≥0

解这个不等式得：a≥3或a≤-2，

在a≥3或a≤-2的限制条件下，来求下式的最小值：
(x-1)^2+(y-1)^2
=4a^2-6a-10
=2(2a^2-3a-5)
=2(2a-5)(a+1)

考虑关于f(a)=4a^2-6a-10的抛物线，开口向上，与横轴的两个交点是：(-1,0)(5/2,0)，在限制条件下，它的有效区域是：a≥3或a≤-2，因此最小值应在a=3或a=-2处取得，
分别计算得
当a=3时，(x-1)^2+(y-1)^2=4a^2-6a-10=36-18-10=8；
当a=-2时，(x-1)^2+(y-1)^2=4a^2-6a-10=16+12-10=18；

很显然，(x-1)^2+(y-1)^2的最小值当a=3时取得为：8。故本题选C。

(x-1)^2+(y-1)^2=x^2+y^2-2(x+y)+2
=(x+y)^2-2xy-2(x+y)+2
因 x+y=2a xy=a+6
上式=4a^2-2(a+6)-4a+2
=4a^2-6a-10
当a=3/4时取最小值
最小值为:-12.25

由韦达定理知
X+Y=2A
XY=A+6
而(x-1)^2+(y-1)^2=X^2+Y^2-2(X+Y)+2=(X+Y)^2-2XY-2(X+Y)+2
代入后得