

In der Mathematik heißt eine geometrische Figur oder allgemeiner eine Teilmenge eines euklidischen Raums konvex, wenn für je zwei beliebige Punkte, die zur Menge gehören, auch stets deren Verbindungsstrecke ganz in der Menge liegt. Dies garantiert, dass die Menge an keiner Stelle eine (konkave) Einbuchtung hat.
Die Theorie der konvexen Mengen begründete Hermann Minkowski in seinem Werk Geometrie der Zahlen, Leipzig 1910. Anwendung finden konvexe Mengen z. B. in der konvexen Optimierung oder der Computeranimation, wo konvexe Polytope in verschiedener Hinsicht einfacher zu handhaben sind als Nichtkonvexe.
Eine Teilmenge eines reellen oder komplexen Vektorraums heißt konvex, wenn für alle und für alle mit stets gilt:
Diese Definition basiert auf der Parameterdarstellung der Verbindungsstrecke zwischen und :
Tatsächlich schließt obige Definition auch Objekte mit geradlinigen Rändern wie Quadrate mit ein, die man umgangssprachlich nicht unbedingt als konvex bezeichnen würde.

Die Konvexität einer Menge ist stabil unter gewissen Operationen. Beispiele dafür sind:
Konvexe Mengen können auf verschiedene Weisen noch weiter eingeschränkt werden:
In normierten Räumen , das heißt in Vektorräumen mit einer Norm , die jedem Vektor seine Länge zuordnet, kann man mittels der Norm konvexe Mengen konstruieren. Die für die Theorie der normierten Räume wichtigste konvexe Menge ist die abgeschlossene Einheitskugel .
Gewisse Konvexitätsbedingungen, die man an die Einheitskugel eines normierten Raums stellen kann und die die Konvexität der Einheitskugel verschärfen, definieren Raumklassen normierter Räume. Das führt zu Begriffsbildungen wie zum Beispiel strikt konvexer, gleichmäßig konvexer oder glatter Räume.
Ein Punkt einer beschränkten, konvexen Mengen heißt diametral für M, wenn gleich dem Durchmesser von ist. In der Einheitskugel sind genau die Randpunkte, das heißt die Vektoren der Länge 1, diametral. Für eine Strecke in einem normierten Raum sind genau die Endpunkte dieser Strecke diametral. In diesen beiden Beispielen gibt es auch stets nicht-diametrale Punkte. Das betrachtet man als eine „normale“ Eigenschaft und definiert:
Eine beschränkte, konvexe Menge hat normale Struktur, wenn jede darin enthaltene abgeschlossene und konvexe Teilmenge mit mindestens zwei Punkten nicht-diametrale Punkte bzgl. enthält.
Man kann zeigen, dass jede kompakte, konvexe Menge in einem normierten Raum normale Struktur hat. Da beschränkte, abgeschlossene Mengen in endlichdimensionalen Räumen nach dem Satz von Heine-Borel kompakt sind, haben also alle beschränkten, konvexen Mengen in endlichdimensionalen Räumen normale Struktur. Das Auftreten beschränkter, konvexer Mengen ohne normale Struktur ist daher ein rein unendlichdimensionales Phänomen.
Allgemein genügen für die sinnvolle Definition von Konvexität schon erheblich schwächere Voraussetzungen an die Geometrie, die auf gilt. Man braucht aus Hilberts Axiomensystem der euklidischen Geometrie lediglich die Axiome der Verknüpfung und die der Anordnung. Die Konvexität hängt insbesondere von der Definition einer geraden Verbindungsstrecke ab. So ist die Halbebene, die durch definiert wird, konvex in der euklidischen Ebene, aber nichtkonvex in der Moulton-Ebene: Beispielsweise läuft die „Gerade“ zwischen und über den (nicht in der Menge enthaltenen) Punkt . Siehe auch kollinear.
Je nach mathematischem Kontext werden unterschiedliche Verallgemeinerungen benutzt, die auch teilweise nicht kohärent sind.
Folgende Axiomatik verallgemeinert die grundlegenden Eigenschaften konvexer Mengen auf einem Niveau, das vergleichbar ist mit dem der Topologie.
Eine Menge zusammen mit einer Menge von Teilmengen wird Konvexitätsraum genannt, wenn für Folgendes gilt:
Dann werden die Mengen aus die konvexen Mengen von genannt.

Ein metrischer Raum wird metrisch konvex genannt, wenn zu je zwei verschiedenen Punkten stets ein dritter Punkt derart existiert, dass in der Dreiecksungleichung sogar Gleichheit gilt:
Von einem Punkt , welcher dieser Bedingung genügt, sagt man dann:
Hier gilt allerdings nicht mehr, dass der Schnitt von metrisch konvexen Mengen wieder metrisch konvex wäre. So ist die Kreislinie mit der Metrik der Bogenlänge metrisch konvex, zwei abgeschlossenen Halbkreise, die bis auf ihre beiden Endpunkte disjunkt sind, sind auch metrisch konvexe (Teil)mengen, ihr zweielementiger Schnitt aber nicht.
Das grundlegende Resultat über metrisch konvexe Räume ist der Verbindbarkeitssatz von Menger.
Semi-Riemannsche Mannigfaltigkeiten haben eine innewohnende Metrik, die die Geodäten der Mannigfaltigkeit festlegt. Wenn jedes Paar von Punkten in einer Umgebung durch eine einzige Geodäte der Mannigfaltigkeit verbunden werden kann, die vollständig in dieser Umgebung liegt, nennt man diese Umgebung einfach konvex.
Eine Untermannigfaltigkeit einer riemannschen Mannigfaltigkeit heißt geodätisch konvex, wenn sich je zwei beliebige Punkten durch eine Kurve in verbinden lassen, die eine in global längenminimierende Geodäte ist.

Im Zweidimensionalen kann die Krümmung einer stetig differenzierbaren Kurve in einem Punkt in Relation zum Betrachter untersucht werden:
Analog kann in höheren Dimensionen die Krümmung von Hyperebenen untersucht werden, wozu das Objekt aber orientierbar sein muss.