Pályafutását 1964-ben a St. Mirrenben kezdte, ahol három évig játszott. 1967-ben leigazolta a Preston North End, melynek színeiben ugyancsak három évig szerepelt. 1970-ben szerződtette a Derby County, melynek tagjaként 1972-ben és 1975-ben megnyerte az angol másodosztályt. 1977 és 1979 között a Nottingham Foresttel feljutott az élvonalba és bejutott a bajnokcsapatok Európa-kupájának a döntőjébe, amit szintén megnyertek. 1979-ben a Birmingham City igazolta le, ahol három évet töltött. 1982-ben rövid ideig játszott az Egyesült Államokban, a Jacksonville Tea Men csapatában, majd visszatért Angliába a Wigan Athletic együtteséhez. 1982 és 1984 között a Derby Countyban játszott és innen is vonult vissza az aktív játéktól.
A válogatottban
1971 és 1981 között 43 alkalommal szerepelt az skót válogatottban és 8 gólt szerzett. Részt vett az 1978-as világbajnokságon. Pályafutása legismertebb momentuma a Hollandia elleni csoportmérkőzésen szerzett gólja, amikor kicselezte a komplett holland védelmet, majd a kapuba emelte a labdát.
A válogatottsági mérkőzések és gólok száma évek szerinti bontásban
↑"The Archie Gemmill's goal" (angol nyelven). oldschoolpanini.com. 2021. december 20. dátummal az eredeti címről archiválva. Hozzáférés: 2021. december 20.