已知O是三角形ABC的外心，AC=4，AB=2，求向量AO与向量AB的数量积？

O是三角形ABC的外心,则有,
OA^2=OB^2=OC^2,
令,OA^2=OB^2=OC^2=m^2,

OB=AB+OA,..............(1)
OC=AC+OA,..............(2)
而,AC-AB=BC=OC-OB,将此式两边同时平方,得
AC^2+AB^2-2AC*AB=OC^2+OB^2-2OC*OB,
因为,向量AC=4,向量AB=2,OA^2=OB^2=OC^2=m^2,
则求得,
OCOB=m^2-2.

由(1)+(2)式,得,
(OB+OC)=AB+AC+2OA=2+4+2OA=6+2OA,
将上式两边平方得,
(OB^2+OC^2+2OB*OC)=36+4*OA^2+24OA,
2m^2+2OB*OC=36+4m^2+24*OA,而,OCOB=m^2-2.
2m^2+2*(m^2-2)=36+4m^2+24*OA,
OA=-5/3.
向量AO=5/3.
则,向量AO与向量AB的数量积=5/3*2=10/3.