Connolly werd geboren in Anderston, Glasgow, in Schotland. Zijn moeder Mary Connolly werkte in een ziekenhuis als bediende in het cafetaria. Begin jaren 1960 werkte Billy Connoly nog als lasser van verwarmingsketels aan de scheepswerven van Glasgow, een carrière die hij tegen het einde van het decennium opgaf om folkzanger in de groep The Humblebums, met onder andere Gerry Rafferty, te worden. Later trad hij ook op als solozanger. Begin jaren 1970 maakte hij de overstap van folkzanger naar cabaretier. Connolly is ook een acteur en verscheen in films als Indecent Proposal (1993), Muppet Treasure Island (1996) en Mrs. Brown (1997), waarvoor hij werd genomineerd voor een BAFTA Award.
In 2001 publiceerde Pamela Stephenson een biografie van haar man met de titel Billy. Het schetst zijn carrière en leven, met inbegrip van het seksueel misbruik door zijn vader, dat van zijn tiende tot zijn veertiende jaar duurde. Connolly schreef ook zelf verschillende boeken, waaronder Billy Connolly (eind 1970) en Gullible's Travels (begin 1980), beide op basis van zijn podiumoptreden, maar ook boeken op basis van een aantal van zijn "World Tour"-serie voor de BBC. In december 2014 was Connolly te zien als de dwergenkoning Daín II van de IJzerheuvels, in de afsluitende film van de Hobbit-trilogie ‘The Battle of the Five Armies’ van regisseur Peter Jackson.
In september 2013 werd bij hem de diagnose ziekte van Parkinson gesteld en in januari 2019 gaf hij aan vanwege deze aandoening te stoppen met optreden.
Bij de verjaardagsonderscheidingen van 2003 werd hij benoemd tot commandeur in de Orde van het Britse Rijk (CBE) „voor zijn verdiensten voor het amusement”.
Op 4 juli 2006 kreeg hij een eredoctoraat van de Royal Scottish Academy of Music and Drama in Glasgow (tegenwoordig het Royal Conservatoire of Scotland), voor zijn verdiensten voor de podiumkunsten.
Op 18 maart 2007 en opnieuw op 11 april 2010 zette Channel 4 hem op nummer één in de lijst „100 Greatest Stand-Ups”.
Op 20 augustus 2010 werd hij ereburger van Glasgow.
Op 10 december 2012 ontving hij de BAFTA Scotland Award voor uitzonderlijke prestaties in televisie en film.
In januari 2016 kreeg hij bij de National Television Awards de Special Recognition Award voor zijn carrière.
Bij de verjaardagsonderscheidingen van 2017 werd hij door koningin Elizabeth II tot ridder geslagen „voor zijn verdiensten voor het amusement en voor goede doelen”.
In 2017 telde Glasgow ten minste drie grote muurschilderingen van Connolly in opdracht van BBC Scotland en een metalen wandkunstwerk in opdracht van Sanctuary Scotland Housing Association.