B-sides & Rarities är en samling av b-sidor och andra ovanliga låtar gjorda av Nick Cave & The Bad Seeds. Samlingen släpptes på 3 cd-skivor år 2005.
CD 1
CD 2
CD 3
Rye Whiskey (CD 1) är baserad på en gammal låt med samma namn. Mick Harvey hjälpte Nick Cave att forma om låten musikaliskt.
Running Scared (CD 1)är skriven av Roy Orbison & Joe Melson.
Black Betty (CD 1) är skriven av Leadbelly
Scum (CD 1) handlar om två journalister. Mick Harvey hjälpte Nick att forma om låten musikaliskt.
The Train Song (CD 1) är baserad på en gammal låt vid namn The How Long, How Long Blues.
Cocks 'n' Asses (CD 1) är skriven av Nick i samarbete med Victor Van Vugt
Helpless (CD 1) är en låt av Neil Young.
Tower of Song (CD 1) är en låt av Leonard Cohen. Nick ändrar på texten så till vida att när Cohen sjunger "I said to Hank Williams: 'How lonely does it get?' Hank Williams hasn't answered yet..." använder Nick Cohens namn istället. Det lär finnas en ungefär 80 minuter lång inspelning av denna låt; versionen på detta album är klippt ner till 5:39 - det finns även en version från bootleg-albumet More Pricks Than Kicks, där låten framförs improvisatoriskt under en 33 minuter lång studiotagning. Namnet på albumet, More Pricks Than Kicks är antagligen en referens till Shane MacGowan, som gjort en låt med samma namn, Shane själv tog titeln från en novellsamling av Samuel Beckett.
What A Wonderful World (CD 2) har spelats in av många artister; mest känd är versionen gjord av Louis Armstrong. George Weiss och George Douglas skrev låten.
Rainy Night In Soho (CD 2) är skriven av Shane MacGowan.
There's No Night Out In The Jail (CD 2) är skriven av John Harold Ashe.
Mick Harvey, Conway Savage och Thomas Wydler hjälpte Nick att skriva musiken till That's What Jazz Is To Me (CD 2).
The Willow Garden (CD 2) är baserad på en gammal låt med samma namn. Conway Savage sjunger denna låt. Warren Ellis hjälpte Nick att forma om låten musikaliskt.
Kvinnan i The Ballad Of Robert Moore And Betty Coltrane stavar ibland sitt efternamn Coltraine. Det skiljer till exempel mellan detta album och boken The Complete Lyrics 1978-2001.
King Kong Kitchee Kitchee Ki-Mi-O (CD 2) är delvis baserad på en gammal låt vid namn Froggie Went A-Courtin, som bland andra Bob Dylan spelat in.
Knoxville Girl är baserad på en gammal låt. James Johnston hjälpte Nick av forma om låten musikaliskt. Time Jesum Transeuntum Et Non Riverentum (CD 2) kallas ibland Zero Is Also A Number, eftersom den var dold som spår 0 på soundtracket till Arkiv X. Titeln är på latin och motsvarar raderna i låten: "Dread the passage of Jesus for He will not return". Warren Ellis, Jim White och Mick Turner hjälpte Nick att forma om låten musikaliskt.
Red Right Hand (CD 2) formades musikaliskt av Nick i samarbete med Mick Harvey och Thomas Wydler.
Little Empty Boat (CD 3) handlar om manlig impotens. Blixa Bargeld, Mick Harvey och Martyn P. Casey var med och skrev musiken.
Casey, Harvey, Wydler och Savage hjälpte även till att skriva musiken till Right Now I'm A-Roaming (CD 3).
Sheep May Safely Graze (CD 3) är en vaggvisa skriven till Nicks son, Luke.
Savage hjälpte Nick att skriva musiken till Opium Tea (CD 3).
Låtarna Grief Came Riding och Good Good Day (CD 3) kallas ibland A Grief Came Riding respektive A Good Good Day
Janey i Little Janey's Gone (CD 3) stavar ibland sitt namn Janie.
I Feel So Good (CD 3) skrevs av JB Lenoir.
Little Ghost Song (CD 3) kom till i studion då två låtar från Nocturama blandades ihop. Musiken till Still In Love råkade spelas samtidigt med sången till Right Out Of Your Hand. Enligt Nicks utsago blev bandet "dumbstruck by the beauty of it".
Musiken till She's Leaving You (CD 3) skrevs av Nick i samarbete med Warren Ellis, Martyn Casey och Jim Sclavunos.
Då ej annat anges har Nick Cave skrivit text och musik till låtarna.
Utöver de ovan nämnda Bad Seeds bör nämnas Kid Congo Powers, Roland Wolf, Barry Adamson, Tracy Pew, Hugo Race, Tony Cohen, Bill McGee, Bronwyn Adams, Terry Edwards, Astrid Munday samt Kate McGarrigle och Anna McGarrigle som alla deltagit i skapandet av musiken på albumet.