请问发表数学著作应该向哪个出版社投稿

向出版数学书的出版社，你去找他们，或者联系他们，与他们谈谈

有很多，比如一些数学杂志，中国没有特别好的数学杂志，顶级数学论文你可以投到日本《东北数学杂志》或德国《丢克杂志》等等。一般的论文可以投到一些大学办的校报或数学通讯。书的话可以找高等教育出版社或一些大学的出版社，机械工业出版社等等。