Harmaakivi on usein graniitin vanhentunut nimitys, mutta se voi tarkoittaa myös muita harmaita kivilajeja, kuten granodioriittia ja gneissigraniittia. Suomen keskiaikaiset kivikirkot on pääosin rakennettu harmaakivestä. Alkujaan monien kirkkojen ulkoseinät ovat olleet rapattuja ja kalkittuja.
Vuonna 1932 ilmestynyt Iso tietosanakirja määritteli harmaakiven harmaanväristen graniittikivien kansanomaiseksi nimitykseksi. Rahvas käytti sanaa usein mistä tahansa malmien, kalkkikiven tai muun hyödynnettävän kiviaineksen yhteydessä esiintyvästä hyödynnettäväksi kelpaamattomasta kivestä kelvollisen vastakohtana.