Nació en 1928 en Tokyo, practicó Judo, Kendo (cinturon negro) y karate con Funakoshi, en 1945 ingresa en la Universidad de Takushoku formando parte del equipo de karate de dicha Universidad. Ese mismo año es nombrado director de la J.K.A. siendo el instructor jefe Funakoshi. En 1960 publicó su libro "Karate, el arte del combate con la mano vacía" que está considerado el libro de karate mas vendido en todo el mundo. En una demostración de karate que celebró en Washinton, Bruce Lee quedó tan impresionado de las técnicas de pierna de Nishiyama, que al salir de la demostración dijo a su amigo que le acompañaba, que él quería llegar a tener esa habilidad con las piernas.