Il 30 marzo 2013, il gruppo pubblicò un'anteprima dell'album e il 17 giugno pubblicarono il brano Follow Me Down, seguito il 1º luglio da un'anteprima di due minuti del brano Burn.
Il brano omonimo ebbe un'anteprima esclusiva su Revolvermag.com il 19 settembre 2013. Nello stesso giorno, il gruppo annunciò la firma del contratto con la Razor & Tie Records.
Il 19 novembre 2013 venne pubblicato il primo singolo estratto dall'album: Heaven Knows, e il 13 febbraio venne pubblicato il videoclip del singolo.
Le tracce, la copertina e le date di pubblicazione sono state annunciate il 21 gennaio 2014 e sul sito del gruppo è stata avviata la pre-ordinazione dell'edizione limitata dell'album.
I successivi singoli estratti dall'album sono stati: Messed Up Word, House on a Hill e Follow Me Down.
Tracce
Testi e musiche di Ben Philips e Taylor Momsen, eccetto dove diversamente specificato.
Follow Me Down – 4:41
Going to Hell – 4:38
Heaven Knows – 3:44
House on a Hill – 4:45
Sweet Things – 5:04
Dear Sister – 0:56 (T. Momsen)
Absolution – 4:34
Blame Me – 4:27 (T. Momsen)
Burn – 1:48 (T. Momsen)
Why'd You Bring a Shotgun to the Party – 3:20
Fucked Up World – 4:16
Waiting for a Friend – 3:12 (T. Momsen)
Edizione giapponese (bonus tracks)
Kill Me – 3:47 (T. Momsen, B. Philips, K. Khandwala)
Going to Hell (Acoustic version) – 2:35
Sweet Things (Acoustic version) – 4:14
Pre-order CD bonus tracks
Going to Hell (Acoustic version) – 2:35
Sweet Things (Acoustic version) – 4:14
Tracce bonus dell'edizione iTunes
Only You – 3:38 (T. Momsen, B. Philips, K. Khandwala)
Formazione
Hanno partecipato alle registrazioni, secondo le note dell'album:
↑(EN) The Pretty Reckless - Going to Hell, su Rolling Stone Magazine, 18 marzo 2014. URL consultato il 24 marzo 2014 (archiviato dall'url originale il 23 giugno 2017).