Die Mitteleuropäische Gradmessung wurde im Oktober 1864 in Berlin ins Leben gerufen – dies geschah nach der Gründung der Schweizerischen Geodätischen Kommission im Jahr 1861 sowie im Anschluss an eine vorbereitende Beratung zwischen Vertretern Preußens, Österreichs und Sachsens im April 1862. 1867 wurde daraus die Europäische Gradmessung und 1886 die Internationale Erdmessung. Auf der ersten Generalversammlung der Internationalen Union für Geodäsie und Geophysik im Jahr 1922 in Rom wurde sie zur Sektion Geodäsie – einem der fünf Bestandteile der Internationalen Union für Geodäsie und Geophysik. Im Jahr 1946 nahm sie offiziell ihren heutigen Namen an: International Association of Geodesy (IAG).
Nach einer Vorberatung zwischen Vertretern Preußens, Österreichs und Sachsens im April 1862, an der August von Fligely, Karl Ludwig von Littrow, Josef Philipp Herr, Julius Ludwig Weisbach, Christian August Nagel und Karl Christian Bruhns teilnahmen, wurde im Oktober 1864 in Berlin die Mitteleuropäische Gradmessung gegründet. Im Rahmen der Mitteleuropäischen Gradmessung wurde eine Zentrale eingerichtet, die am Preußischen Geodätischen Institut angesiedelt war und deren Leitung Johann Jacob Baeyer übertragen wurde.
Zum Zeitpunkt ihrer Gründung zählte die Vereinigung sechzehn Mitgliedsländer: das Kaisertum Österreich, das Königreich Belgien, Dänemark, sieben deutsche Staaten (Großherzogtum Baden, Königreich Bayern, Königreich Hannover, Mecklenburg, Königreich Preußen, Königreich Sachsen, Sachsen-Coburg und Gotha), das Königreich Italien, die Niederlande, das Russische Kaiserreich (für Polen), die Vereinigten Königreiche Schweden und Norwegen sowie die Schweiz. Bereits 1864 setzte die Vereinigung eine Ständige Kommission mit Verwaltungsbefugnissen ein, die das Zentralbüro beaufsichtigte und zum obersten wissenschaftlichen Gremium der geodätischen Vereinigung wurde. Diese Kommission wurde von 1864 bis 1868 von Peter Andreas Hansen, von 1869 bis 1874 von dem österreichisch-ungarischen General August von Fligely und von 1874 bis 1886 von dem spanischen General Carlos Ibáñez de Ibero geleitet.

Als Gradmessungskommission wurden geodätische Spezialstudiengruppen bezeichnet, die ab 1861 auf Initiative Johann Jacob Baeyers in mehreren Staaten Mitteleuropas gegründet wurden, um der steigenden Bedeutung der wissenschaftlichen Erdmessung gerecht zu werden. Der Name leitet sich von den Methoden der Gradmessung ab, mit denen ab etwa 1800 die genaue Erdfigur und bestanschließende Ellipsoide für die im Aufschwung befindlichen Landesvermessungen bestimmt wurden.
Als erste derartige Kommission wurde 1861 in Lausanne die Schweizerische Geodätische Kommission gegründet. Sie wurde während der Herausgabe der Topographische Karte der Schweiz gegründet, und ihre anfängliche Arbeit trug zur Konzeption des Topographischen Atlas der Schweiz bei. Zwischen 1864 und 1891 führte die Kommission eine Vermessung von Höhen in der gesamten Schweiz durch, die unter dem Titel „Nivellement de Précision“ veröffentlicht wurde. Diese Höhenangaben erreichen zwar nicht die Präzision heutiger Standards, werden aber dennoch weiterhin offiziell verwendet.
1863 in Wien wurde die Österreichische Gradmessungskommission gegründet; federführend waren das Militärgeografische Institut und Geodäsie-Professoren der 1815 gegründeten Technischen Hochschule Wien. Um 1865 folgten die Mitteleuropäische Gradmessungskommission, in der vor allem Österreich und Deutschland unter August von Fligely und Johann Jacob Baeyer ihre Forschungsprojekte für Höhere Geodäsie zu koordinieren suchten. Zu den Mitgliedern der mitteleuropäischen Gradmessungskommission gehörten unter anderem Bernhard Riemann und Theodor Wittstein.
Um 1870 entstand die Bayerische Gradmessungskommission. Ab 1870 entstanden auf Initiative von Friedrich Robert Helmert weitere Kommissionen in Preußen, in Württemberg und teilweise den Rheinlanden.
Im Jahr 1875 führte Charles Sanders Peirce an der Sternwarte Genf Experimente mit seinem Reversionspendel durch und gab bei der Société genevoise d’instruments physiques (SIP) eine Vakuumkammer für sein Pendel in Auftrag. Auch bedeutende Verbesserungen an Instrumenten zur Schwerkraftmessung sind Friedrich Wilhelm Bessel zuzuschreiben. Er konzipierte ein von Adolf Repsold gefertigtes Gravimeter, das in der Schweiz erstmals von Emile Plantamour eingesetzt wurde. Kurz darauf fanden Charles Sanders Peirce und Isaac-Charles Élisée Cellérier (1818–1889), ein Mathematiker aus Genf, unabhängig voneinander eine mathematische Formel, mit der sich die systematischen Fehler dieses Geräts korrigieren ließen. Fehler, die zuvor bereits von Plantamour und Adolphe Hirsch bemerkt worden waren. Diese Arbeit führte 1901 zu dem von Friedrich Robert Helmert vorgeschlagenen Erdellipsoid, dessen Parameterwerte der Realität bemerkenswert nahe kamen.
Im Rahmen der Europäischen Gradmessung wurde auf der 1875 in Paris abgehaltenen Generalkonferenz zudem die Schaffung eines internationalen geodätischen Standards beschlossen. Die Kommission fasste den Entschluss, auf gemeinsame Kosten ein Messinstrument zu erwerben, das dazu dienen sollte, entweder neue Basislinien in Ländern zu vermessen, die über kein eigenes Messgerät verfügten, oder bereits durchgeführte Messungen zu wiederholen. Durch den Vergleich der neuen Ergebnisse mit denjenigen, die auf Basis der alten nationalen Standards gewonnen worden waren, ließen sich deren jeweilige Korrektionsgleichungen bestimmen. Das Instrument sollte im Internationalen Büro für Maß und Gewicht (BIPM) unter Verwendung des internationalen Urmeters kalibriert werden. Vorgeschlagen wurde ein System mit Mikroskop und Bimetall-Messstäben, das sich bereits in Spanien hervorragend bewährt hatte.
Als Spanien 1852 beschloss, eine großmaßstäbliche Karte des Landes erstellen zu lassen, erkannte Carlos Ibáñez de Ibero, dass die Endmaße – mit denen selbst die präzisesten Instrumente des 18. und der ersten Hälfte des 19. Jahrhunderts noch ausgestattet waren und bei denen man, wie etwa bei Jean-Charles de Borda oder Friedrich Wilhelm Bessel, die Abstände mittels Nonien oder Glaskeilen bestimmte – zugunsten einer höheren Genauigkeit vorteilhaft durch mikroskopische Messungen ersetzt werden könnten. Dieses System war ursprünglich in der Schweiz von Ferdinand Rudolph Hassler und Johann Georg Tralles entwickelt worden; Ibáñez verfeinerte es, indem er einen einheitlichen Maßstab verwendete, auf dessen Stab die Messmarkierungen direkt angebracht waren.
Dieses Gerät, das als Ibáñez-Apparat bezeichnet wird, war auf den spanischen Standard kalibriert und sollte in der Schweiz zur Vermessung der geodätischen Basislinien von Aarberg, Weinfelden und Bellinzona eingesetzt werden. Der spanische Standard war mit Bordas Doppel-Toise Nr. 1 verglichen worden, die als Vergleichsmodul für die Messung aller geodätischen Basislinien in Frankreich diente. Im Juni 1886, im Anschluss an diese Arbeiten, wurde der Ibáñez-Apparat am Internationalen Büro für Maß und Gewicht anhand des internationalen Bimetall-Apparats von Brunner Frères neu kalibriert (der seinerseits auf den internationalen Urmeter abgestimmt war).
Die Europäische Gradmessung, die Europa mit einem Netz von grundlegenden Längengradbestimmungen überzogen hatte, befasste sich auf ihrer siebten Generalkonferenz 1883 in Rom mit der Frage nach einem international anerkannten Nullmeridian. Aus wissenschaftlicher Sicht musste ein Ort, der als internationaler Nullmeridian in Betracht gezogen werden sollte, drei wichtige Kriterien erfüllen. Dem Bericht von Carlos Ibáñez de Ibero zufolge musste er über eine erstklassige astronomische Sternwarte verfügen, durch astronomische Beobachtungen direkt mit anderen nahegelegenen Sternwarten verknüpft sein und in ein Netz aus erstklassigen Triangulationspunkten im umliegenden Gebiet eingebunden sein. Die Konferenz kam zu dem Schluss, dass die Sternwarte Greenwich am besten den geografischen, nautischen, astronomischen und kartografischen Anforderungen entsprach, die für die Wahl eines internationalen Nullmeridians maßgeblich waren, und empfahl den Regierungen, diesen als weltweiten Standard zu übernehmen. Die Konferenz hegte zudem die Hoffnung, dass Großbritannien – sofern sich die Welt auf eine Vereinheitlichung von Längengraden und Zeitrechnung durch die Wahl des Greenwich-Meridians einigte – im Gegenzug einer Vereinheitlichung von Maßen und Gewichten zustimmen und der Meterkonvention beitreten könnte.
Im Jahr 1886 schlug Adolphe Hirsch, Vertreter der Schweizerischen Geodätischen Kommission sowohl in der Internationalen Erdmessungs als auch im Internationalen Komitee für Maß und Gewicht, vor, sämtliche Toisen (eine traditionelle französische Längeneinheit), die in Europa als geodätische Normale gedient hatten, am Internationalen Büro für Maß und Gewicht miteinander zu vergleichen.
Diese sorgfältigen Vergleiche, die von Fortschritten in der Thermometrie profitierten, zeigten, dass der „Mètre des Archives“ (der ursprüngliche Standardmeter) nicht exakt 443,296 „Lignes“ der „Toise“ entsprach, sondern tatsächlich um etwa 0,013 Millimeter zu kurz war. Unter der Annahme eines linearen Wärmeausdehnungskoeffizienten von 11,6 × 10⁻⁶ °C⁻¹ für Stahl lässt sich diese Diskrepanz auf einen potenziellen Temperaturfehler von etwa 1,3 °C bei der Kalibrierung des Borda-Apparats (des geodätischen Standards, der bei der Gradmessung von Delambre und Méchain verwendet wurde) gegenüber der „Toise du Pérou“ zurückführen. Diese Möglichkeit wurde erstmals 1799 von Johan Georg Tralles in Betracht gezogen.
Im Jahr 1901 begann die Schweizerische Geodätische Kommission mit der ersten Geoidberechnung für die Schweiz – einer Darstellung der gravitativen Äquipotentialfläche. Man erwartete, dass das Geoid durch den Jura und die Alpen stark beeinflusst werden würde. Neue Messungen mit verbesserter Technologie erfolgten in den Jahren 1939, 1969 und 1975. Im Jahr 1978 wurde ein Geoid erstellt, das ausschließlich auf astronomischen Messungen basierte.
Die Österreichische Gradmessungskommission erhielt in der Zwischenkriegszeit den Namen Österreichische Kommission für die internationale Erdmessung (ÖKIE) und wurde um 1995 in Österreichische Geodätische Kommission (ÖGK) umbenannt, während die deutschen Kommissionen in der Deutschen Geodätischen Kommission (DGK) bei der Bayerischen Akademie der Wissenschaften zusammengefasst wurden.
Die Internationale Erdmessung wurde hingegen zur Stammzelle der späteren International Association of Geodesy (IAG), die ihrerseits wesentlich zur Gründung des geowissenschaftlichen Dachverbandes der IUGG beitrug.