Nakayama ganhou 10 medalhas, incluindo seis ouros nos Jogos Olímpicos do México em 1968 e nos Jogos de Munique em 1972.
A sua técnica epónima de balançar a argola - o "Nakayama" - tornou-se desde então uma aspiração para muitos ginastas de todo o mundo.
Nakayama morreu a 9 de março, informou a Associação de Ginástica do Japão, com os meios de comunicação locais a citarem um cancro no estômago como causa.
"Expressamos as nossas sinceras condolências", declarou a associação.
Nakayama também ganhou 12 medalhas nos campeonatos mundiais de ginástica, incluindo sete ouros.