立体几何建立直角坐标系中，X,Y方向轴可以随意定吗？

不可以。必须要按照一定的顺序。
交给你一个简单的方法，伸出你的右手，伸出大拇指，食指和中指，按照指尖的方向，依次为x、y、z轴

这样定出的坐标系叫做右旋坐标系
实际上也有左旋坐标系，比如做过 DirectX 3D 编程的同学可能知道 DX3D 就是用这种变态的坐标系的。
坐标系的手性，对矢量的叉积（外积）运算也有影响