Yamaguchi nasceu em Koishikawa, Tóquio, e era o terceiro filho de um ex-samurai do Domínio de Matsue . Seu nome de batismo, "Tamon", era o nome de infância do herói medieval Kusunoki Masashige. Ele frequentou a Academia Kaisei e foi aceito na 40ª turma da Academia Naval Imperial Japonesa, onde se formou em 1912, classificado em 21º lugar entre 144 cadetes. Seus colegas de classe incluíam Takijirō Ōnishi e Matome Ugaki. Como alferes, serviu no cruzadorChikuma e couraçadoAki. Ele foi despachado para o Mediterrâneo com a frota japonesa como parte da contribuição do Japão para a Aliança Anglo-Japonesa na Primeira Guerra Mundial e participou de operações de combate como oficial no contratorpedeiro Kashi baseado em Malta a partir de julho de 1918. Ele foi promovido ao posto de Tenente em dezembro daquele ano. Em janeiro de 1919, ele foi designado para uma unidade de navegação com o esquadrão naval escoltando submarinos da Marinha Imperial Alemã recebidos pelo governo japonês como parte dos pagamentos de reparação da Alemanha no final da Primeira Guerra Mundial.
Em março de 1921, Yamaguchi foi enviado aos Estados Unidos para estudar na Universidade de Princeton às custas da Marinha e retornou ao Japão em maio de 1923. Ao retornar ao Japão, foi designado para o encouraçado Nagato por seis meses, antes de servir como instrutor na Escola de Submarinos de dezembro de 1923 a dezembro de 1924. Ele então frequentou o Naval Staff College, onde se formou com honras em novembro de 1926. A partir de novembro de 1927, foi designado para o Estado-Maior da Marinha Imperial Japonesa. Yamaguchi foi promovido a comandante em dezembro de 1928.
Designado para a delegação japonesa na Conferência Naval de Londres em 1930, juntou-se ao Almirante Isoroku Yamamoto na oposição vocal aos termos do tratado de desarmamento. Após seu retorno ao Japão, foi designado como oficial executivo do cruzador Yura a partir de julho de 1930. A partir de novembro de 1930, foi designado para o estado-maior da Frota Combinada. Serviu como instrutor na Escola de Estado-Maior Naval a partir de novembro de 1932 e foi promovido ao posto de capitão em dezembro daquele ano.
Yamaguchi foi adido naval da embaixada japonesa em Washington, D.C., de junho de 1934 a novembro de 1936. Em seu retorno ao Japão, ele recebeu seu primeiro comando, o cruzador Isuzu de dezembro de 1936 a dezembro de 1937, seguido pelo encouraçado Ise até dezembro de 1938.
Segunda Guerra Mundial
Com o início da Segunda Guerra Sino-Japonesa, o Ise foi designado para patrulhas na costa sul da China. Yamaguchi foi promovido a contra-almirante em 15 de novembro de 1938. A partir de dezembro, ele foi chefe do Estado-Maior da 5ª Frota da Marinha Imperial Japonesa e, a partir de novembro de 1939, integrou o Estado-Maior da 1ª Frota da Marinha Imperial Japonesa.
Em novembro de 1940, Yamaguchi foi transferido para comandar a 2ª Divisão de Porta-aviões, composta pelos porta-aviõesSōryū e Hiryū. Em preparação para o ataque a Pearl Harbor, Yamaguchi treinou suas tripulações de voo implacavelmente, o que levou a muitos acidentes e reclamações; no entanto, o treinamento valeu a pena após o início das operações de combate. Após o ataque bem-sucedido contra a frota americana em Pearl Harbor, a força de porta-aviões de Yamaguchi participou da Batalha da Ilha Wake. Após o início de 1942, ele foi enviado para o sul para ajudar na Batalha de Ambon nas Índias Orientais Holandesas, seguida pelo Bombardeio de Darwin em fevereiro.
Em junho de 1942, ele foi designado para a operação Midway. Durante a batalha, em 4 de junho de 1942, Yamaguchi discordou do comandante da frota, vice-almirante Chūichi Nagumo. Um avião de reconhecimento descobriu um porta-aviões americano (USSYorktown) perto de Midway. Naquele momento, os aviões japoneses estavam armados para um segundo ataque a Midway, com os Nakajima B5N carregando bombas em vez de torpedos. Yamaguchi pediu um ataque imediato ao navio americano, com os aviões armados como estavam, mas Nagumo decidiu esperar até que os aviões fossem rearmados. Pouco depois, aviões porta-aviões americanos destruíram todos os porta-aviões japoneses, exceto o navio almirante de Yamaguchi, o Hiryū. Yamaguchi rapidamente ordenou dois ataques sucessivos a Yorktown, que o paralisaram. O Hiryū foi então paralisado por aeronaves do USSEnterprise, além de algumas aeronaves Yorktown órfãs.
Morte
Pintura japonesa intitulada "Últimos Momentos do Almirante Yamaguchi"
Yamaguchi foi morto em combate, pois ele, junto com o capitão do navio, Tomeo Kaku, escolheram afundar com Hiryū. Yamaguchi e Kaku convocaram todos os oficiais e tripulantes para o convés de voo, e Yamaguchi se dirigiu a eles, assumindo a responsabilidade pela perda de Hiryū e Soryu .
O capitão Abe executou sua ordem final e o Makigumo torpedeou o Hiryū. Um torpedo errou e o outro atingiu perto da proa sem a típica coluna de água, embora a detonação fosse bem visível. O Hiryū afundou quatro horas depois.
