关系副词可以用that 代替吗

不可以。这是定语从句，“I first came to school”已是一个完整的句子，“the day ”在这个从句中充当时间状语，所以要用“when”来连接。而“that”在从句中充当的是主语或宾语成分。如：I love English that gives me happiness. It'an English book that I am fond of.
每个连接词都各司其职，不可张冠李戴。
希望我的回答能帮到你。

不可以

有时可以用prep + which