O técnico de 53 anos assumiu o cargo em 2016 e prolongou o contrato três anos mais tarde, depois de ter conduzido os Brave Blossoms aos quartos de final do Campeonato do Mundo de 2019, pela primeira vez, em casa.
"O meu tempo no Japão foi muito bom e acho que é uma boa altura para partir", disse o treinador, segundo a agência noticiosa Kyodo, na quarta-feira, no campo de treinos da equipa em Miyazaki, no sul do Japão. "É bom para a minha família".
Joseph foi um dos candidatos a treinar os All Blacks, mas perdeu para Scott Robertson.
Ele também treinou os Highlanders por seis temporadas na sua terra natal, a Nova Zelândia, levando-os ao único título de Super Rugby em 2015. Durante a sua carreira de jogador, Joseph representou a Nova Zelândia no Campeonato do Mundo de 1995 e o Japão no torneio de 1999.
O Japão está no Grupo D com a Inglaterra, Argentina, Samoa e Chile no Campeonato do Mundo, que decorre de 8 de setembro a 28 de outubro.