Po rozwodzie rodziców, w wieku około ośmiu lat przeprowadzał się z jednej dzielnicy Akron do drugiej. Tam też poznał Dana Auerbacha, przyszłego współzałożyciela The Black Keys. Jego wczesne inspiracje muzyczne to m.in.: Devo, Captain Beefheart, Jon Spencer Blues i Pavement.
W wywiadzie dla magazynu Modern Drummer oświadczył, że w dzieciństwie nigdy nie brał lekcji gry na perkusji, ale nauczył się jej, naśladując kolegów, którzy również grali na perkusji, korzystając z zestawu perkusyjnego za 150 dolarów, który kupił za pieniądze zarobione w pracy jako nastolatek.
W 2001 roku wspólnie Auerbachem założyli zespół The Black Keys. Został perkusistą, a jego przyjaciel Auerbach wokalistą i gitarzystą. Niecały rok później wydali oni swój debiutancki album The Big Come Up, w 2003 roku ukazał się Thickfreakness, a rok później Rubber Factory. Czwarty album zespołu, Magic Potion, premierę miał w 2006 roku, a Attack & Release, ich chwalony przez krytyków piąty album, wydany został w 2008 roku. Zadebiutował na 14. miejscu listy przebojów magazynu Billboard.
W 2009 roku, podczas gdy Auerbach był w solowej trasie koncertowej, Carney założył wspólnie z Jamie’em Stillmanem, Jonem Finleyem oraz Stephenem Clementsem nowy zespół muzyczny o nazwie Drummer(inne języki), w którym grał na gitarze basowej. Każdy z członków zespołu grał wcześniej na perkusji w innym zespole. W tym samym roku wydali debiutancki i zarazem jedyny album Feel Good Together(inne języki). Carney nagrał też partie perkusyjne na albumie zespołu The Rentals(inne języki) z 2014 roku pn. Lost in Alphaville(inne języki).
W międzyczasie, w lutym 2019 roku Carney zapowiedział wydanie albumu Akron, Ohio w ramach projektu muzycznego pn. Sad Planets, który stworzył wspólnie z Johnem Petkovicem. Jego premiera miała miejsce 19 kwietnia tego samego roku.
Pod koniec 2012 roku zaczął prowadzić comiesięczny program radiowy w SiriusXMU(inne języki) pod tytułem Serious Boredom with Patrick Carney. Miał także segment w programie informacyjnym HBOVice News Tonight(inne języki) zatytułowany Patrick Carney’s High Standards Music Corner, w którym słuchał i oceniał nowe piosenki – pierwszy jego odcinek pojawił się w październiku 2016 roku.
W 2007 roku Carney, gdy mieszkał w Akron, poślubił pisarkę Denise Grollmus. Para spotykała się od kilku lat, ponieważ Grollmus studiowała w Oberlin College(inne języki) w Ohio, a Carney i Auerbach założyli w tym czasie zespół The Black Keys. Para rozwiodła się w 2009 roku, o czym oboje opowiedzieli o tym w mediach – Carney w numerze Rolling Stone z 27 maja 2010 roku, a Grollmus w eseju Snapshots From a Rock ’N’ Roll Marriage opublikowanym w serwisie Salon 3 marca 2011 roku.
W 2010 roku Carney i Auerbach, przeprowadzili się z Akron i kupili domy w Nashville. Tam też, na podwórku swojego domu 15 września 2012 roku Carney poślubił Emily Ward, a poznał ją, gdy mieszkał w Nowym Jorku. Carney i Ward rozwiedli się w styczniu 2016 roku.
W 2015 roku Carney poznał Michelle Branch na przyjęciu zorganizowanym w ramach rozdania nagród Grammy, a oboje zaczęli się spotykać podczas produkcji albumu Branch pn. Hopeless Romantic(inne języki), którego producentem był Carney. W 2017 roku Branch i jej córka Owen przeprowadziły się do domu Carneya w Nashville, który dzielili wówczas z wilczarzami irlandzkimi. Zaręczyli się w urodziny Branch w 2017 roku. 11 lutego 2018 roku Branch ogłosiła, że ona i Carney spodziewają się swojego pierwszego dziecka. Ich syn, Rhys James Carney, urodził się w sierpniu 2018 roku. Carney i Branch pobrali się w kwietniu 2019 roku.
W grudniu 2020 roku ujawniono, że Branch poroniła. W lutym 2022 roku urodziła ona córkę – drugie dziecko z Carneyem i trzecie w ogóle. 11 sierpnia 2022 roku Branch ogłosiła separację z Carneyem, powołując się na jego rzekomą niewierność. Została aresztowana pod zarzutem napaści domowej, ponieważ uderzyła Carneya po oskarżeniu go o niewierność. Zarzut ten został później oddalony, a para później się pogodziła.