It is a custom of giving present at Christmas这句话有语法错误吗？

不是啦，giving present是动名词用法啦，所以前面要用介词of来连接。

但是要用that的话也可以，不过that后面就得再增加一个主语了，如：
It is a custom that people give presents at Christmas.

这句没有语法错误的
It is a custom 其实就可以作为一个句子了，of后面跟的是从句，起个解释作用。