Com o lançamento de seu álbum de estreia auto-intitulado de 1987, Marx embarcou em uma turnê que durou quinze meses. Após o período, ele retornou ao estúdio de gravação com uma série de canções escritas durante a realização da turnê.
Repeat Offender foi gravado com músicos conhecidos de Los Angeles e mantém a parceria de produção entre Marx com David Cole. Além disso, o álbum foi inteiramente escrito ou co-escrito por Marx, que sentiu diferenças entre a experiência de gravação de seu álbum de estreia com Repeat Offender, dizendo: "Algumas pessoas podem pensar que seria mais fácil desta vez, que eu poderia simplesmente relaxar", mas que "a verdade é que é mais difícil, tenho mais a provar".