Es ist praktisch nie möglich, exakt zu messen. Die Abweichungen der Messwerte von ihren wahren Werten wirken sich auf ein Messergebnis aus, so dass dieses ebenfalls von seinem wahren Wert abweicht. Die Fehlerrechnung versucht, die Einflussnahme der Messabweichungen auf das Messergebnis quantitativ zu bestimmen.
Messabweichungen wurden früher als Messfehler bezeichnet. Die Bezeichnung „Fehlerrechnung“ ist auf diesen Umstand zurückzuführen.
Der Begriff Fehlerrechnung kann verschieden verstanden werden.

Die Streuung von Messwerten kann man sich in einem Histogramm veranschaulichen. Man teilt den Bereich der möglichen Werte in kleine Bereiche mit der Breite ein und trägt zu jedem Bereich auf, wie viele gemessene Werte in diesem Bereich vorkommen, siehe Beispiel in nebenstehendem Bild.

Bei der Gauß- oder Normalverteilung (nach Carl Friedrich Gauß) lässt man die Anzahl der Messungen gehen und zugleich . Bei dem Diagramm geht der gestufte Verlauf über in eine stetige Kurve. Diese beschreibt
Mit der mathematischen Darstellung der Normalverteilung lassen sich viele statistisch bedingte natur-, wirtschafts- oder ingenieurwissenschaftliche Vorgänge beschreiben. Auch zufällige Messabweichungen können in ihrer Gesamtheit durch die Parameter der Normalverteilung beschrieben werden. Diese Kenngrößen sind
Das Folgende gilt bei Abwesenheit von systematischen Abweichungen und bei normalverteilten zufälligen Abweichungen.
Hat man von der Größe mehrere mit zufälligen Fehlern behaftete Werte mit , so kommt man gegenüber dem Einzelwert zu einer verbesserten Aussage durch Bildung des arithmetischen Mittelwertes
Die empirische Standardabweichung der einzelnen Messwerte ergibt sich aus
Diese Größen sind Schätzwerte für die Parameter der Normalverteilung. Durch die endliche Zahl der Messwerte unterliegt auch der Mittelwert noch zufälligen Abweichungen. Ein Maß für die Breite der Streuung des Mittelwertes ist die Unsicherheit
Diese wird umso kleiner, je größer wird. Sie kennzeichnet zusammen mit dem Mittelwert einen Wertebereich , in dem der Mittelwert der Messgröße nach einer vielfachen Wiederholung der Messungen mit den oben angegebenen ca. 68 % Wahrscheinlichkeit erwartet wird.
Diese Erwartung wird nur mit einer gewissen Wahrscheinlichkeit erfüllt. Will man Letztere auf ein konkretes Vertrauensniveau festlegen, so muss man einen Bereich (ein Konfidenzintervall) festlegen, in dem der wahre Wert mit dieser Wahrscheinlichkeit liegt. Je höher die Wahrscheinlichkeit gewählt wird, desto breiter muss der Bereich sein. Der Faktor berücksichtigt das gewählte Vertrauensniveau und die Anzahl der Messungen insoweit, als mit einer kleinen Zahl die statistische Behandlung noch nicht aussagekräftig ist. Wählt man die oben genannte Zahl 68 % als Vertrauensniveau und , so ist . Für das in der Technik vielfach verwendete Vertrauensniveau von 95 % und für ist . Eine Tabelle mit Werten von (Studentsche t-Verteilung) befindet sich in .