La parte musicale, interamente scritta da Page, si divide in cinque parti:
l'inizio, con le due tracce di chitarra sovrapposte, una elettrica a dodici corde e l'altra acustica a sei corde, che si chiude insieme alla prima parte del cantato;
un lungo assolo di mellotron da parte di Jones, tra le due parti cantate;
una breve sezione più pesante e più veloce, grazie alla bravura di Bonham di cambiare ritmo all'improvviso e all'aggiunta di una chitarra elettrica a sei corde;
una terza ripresa dell'inizio, che però adesso viene usata come finale, e dove gli strumenti che erano entrati nel corso della canzone, adesso, escono progressivamente fino a lasciare solo le due chitarre iniziali che chiudono la canzone.
Il testo
La canzone è stata ispirata da George Harrison, il quale aveva chiesto al gruppo di scrivere una ballata. Jimmy Page ha spiegato di aver citato Something all'inizio della canzone proprio per questo motivo.
Il testo era stato scritto da Plant, durante la loro permanenza nel cottage di Headley Grange l'anno precedente e unisce l'armonia che i componenti del gruppo avevano trovato in quell'ambiente di campagna, dove non c'era neppure l'elettricità, e la passione che il cantante aveva per leggende nordiche. Come si può vedere dagli ultimi versi della canzone:
(inglese)
«[...] I see the torch we all must hold.
This is the mistery of the quotient
Upon us all a little rain must fall.»
(italiano) «[...] Guardo la torcia che noi tutti dobbiamo tenere.
Questo è il mistero del quoziente
Sopra noi un po' di pioggia deve cadere»
(Versi conclusivi della canzone)
Altre notizie
The Rain Song venne suonata per la prima volta nell'ottava tournée nordamericana del 1972, prima ancora che le canzoni di Houses of the Holy venissero missate;
in uno degli ultimi concerti della band, nell'80, dovettero interrompere la rappresentazione della canzone perché il pubblico, ormai fortemente influenzato dal punk rock, che nasceva proprio in quegli anni, inneggiava ad un aumento del ritmo e, come già detto The Rain Song è una canzone molto lenta e placida.