In der Mathematik versteht man unter dem Kern einer Menge eine Teilmenge, die klein genug ist, um bestimmte Anforderungen zu erfüllen, und zugleich die größte Menge ist, die diese Anforderungen erfüllt. Das wichtigste Beispiel ist der offene Kern bzw. das Innere einer Teilmenge eines topologischen Raums. Kernoperator bezeichnet die Vorschrift, durch die jeder Menge von Objekten ihr Kern zugeordnet wird. Die durch einen Kernoperator gegebenen Kerne bilden ein Kernsystem, also ein Mengensystem mit bestimmten Eigenschaften.
Über einer gegebenen Grundmenge ist ein Kernoperator eine intensive, monotone, idempotente Abbildung auf der Potenzmenge von , die jeder Teilmenge eine weitere Teilmenge von , nämlich den Kern , zuordnet, wobei folgende Bedingungen erfüllt sind:
Aufgrund der beiden anderen Anforderungen genügt es auch, an Stelle der Idempotenz nur zu fordern, das heißt: Jeder Kern liegt in seinem eigenen Kern.
Äquivalent zu den drei genannten Einzelforderungen ist folgende. heißt Kernoperator, wenn für alle gilt:
Ein Kernsystem ist ein unter beliebiger Vereinigungsmengenbildung abgeschlossenes Mengensystem, d. h., ein Kernsystem über einer Menge ist eine aus Teilmengen der Grundmenge bestehende Menge mit folgenden Eigenschaften:
Mit der Konvention lassen sich die beiden genannten Bedingungen zu einer einzigen äquivalenten Bedingung zusammenfassen:
Kernsysteme und Kernoperatoren entsprechen einander:
Daher ist ein Kernsystem nicht nur gegenüber beliebiger Vereinigungsbildung stabil, sondern lässt auch die Bildung eines Infimums (nämlich in Gestalt des Kerns) über einer beliebigen Menge von Teilmengen zu:
Die Begriffspaare „Hüllenoperator – Kernoperator“ bzw. „Hüllensystem – Kernsystem“ stehen zueinander in „komplementärem“ oder „dualem“ Verhältnis, das heißt: Die Komplementärmengen des einen Systems erfüllen die Bedingungen des anderen, wobei der Durchschnitt durch die Vereinigung und das Supremum (die Hülle) durch das Infimum (Kern) ersetzt wird.