日本文部省认可的毕业证书在国内也认可吗??

日本文部省认可的毕业证书只能说明在日本有效力，有在中国教育部备案的就能得到认可。
你说的是在日本取得的大专学历吧，你回国之前到中国驻日本大使馆领事部教育处认证备案一下就可以了。
补充：可以到教育部留学服务中心查询认证。
http://renzheng.cscse.edu.cn