Gruppenoperation

(Links-)Aktion

Eine (Links-)Operation, (Links-)Aktion oder (Links-)Wirkung einer Gruppe ${\displaystyle (G,*)}$ auf einer Menge ${\displaystyle X}$ ist eine äußere zweistellige Verknüpfung

${\displaystyle {\begin{aligned}\triangleright \colon G\times X&\to X\\(g,x)&\mapsto g\triangleright x\end{aligned}}}$

mit folgenden Eigenschaften:

1. ${\displaystyle e\triangleright x=x}$ für alle ${\displaystyle x\in X}$, wobei ${\displaystyle e}$ das neutrale Element von ${\displaystyle G}$ ist     („Identität“),
2. ${\displaystyle (g*h)\triangleright x=g\triangleright (h\triangleright x)}$ für alle ${\displaystyle g,h\in G,x\in X}$     („Verträglichkeit“).

Man sagt dann, ${\displaystyle G}$ operiert (von links) auf ${\displaystyle X}$, und nennt ${\displaystyle X}$ zusammen mit dieser Gruppenoperation eine (linke) ${\displaystyle G}$-Menge.

Aus den beiden Forderungen folgt, dass für jedes ${\displaystyle g\in G}$ die Transformation ${\displaystyle \vartheta _{g\,\triangleright }\colon X\to X,\;x\mapsto g\triangleright x,}$ eine Bijektion (mit der Umkehrabbildung ${\displaystyle \vartheta _{g\,\triangleright }^{-1}=\vartheta _{g^{-1}\triangleright }\colon X\to X,\,x\mapsto g^{-1}\triangleright x}$) auf ${\displaystyle X}$ ist.

• Im Falle endlicher Mengen ${\displaystyle X}$ spricht man von einer Permutation auf ${\displaystyle X}$: Für jedes ${\displaystyle g\in G}$ liegt ${\displaystyle \vartheta _{g\,\triangleright }}$ in der symmetrischen Gruppe ${\displaystyle \operatorname {Sym} (X)}$. Die Aktionen der Gruppenelemente lassen sich also durch Permutationen auf ${\displaystyle X}$ „darstellen“.
• Bei unendlicher Menge ${\displaystyle X}$ ist der Begriff der Permutation (für eine bijektive Selbstabbildung auf einer Menge) unüblich. Die Menge ${\displaystyle X}$ ist im unendlichen Falle in der Regel mit einer (algebraischen, geometrischen oder topologischen) Struktur versehen, und von den Gruppenaktionen ${\displaystyle \vartheta _{g\,\triangleright }}$ wird die Verträglichkeit mit diesen Strukturen verlangt („Automorphismen“): Die Aktionen der Gruppenelemente lassen sich dann als gewisse Automorphismen auf dem Objekt ${\displaystyle X}$ „darstellen“, je nachdem, worum es sich bei ${\displaystyle X}$ handelt, soll heißen, welcher Kategorie das Objekt ${\displaystyle X}$ angehört. Auf der Trägermenge ${\displaystyle X}$ wird ein Hüllensystem induziert (bspw. das Hüllensystem (der Verband) der Zwischenkörper), dessen Hüllenoperator (Hülleneigenschaften) durch die Kategorie, welcher das Objekt ${\displaystyle X}$ angehört, bestimmt ist und mit dem sich die Gruppenoperation ebenfalls verträgt.
• Wenn im Folgenden also von der symmetrischen Gruppe ${\displaystyle \operatorname {Sym} (X)}$ oder von Permutationen die Rede ist, so darf stillschweigend angenommen werden, dass ${\displaystyle X}$ endlich ist. Gruppenoperationen auf endlichen Mengen lassen sich als Teil der Darstellungstheorie endlicher Gruppen auffassen, vgl. hierzu das Beispiel zur Darstellung durch Permutationsmatrizen.
• Doch alle Begrifflichkeiten und Aussagen gelten mutatis mutandis auch für den Fall einer unendlichen Menge ${\displaystyle X}$ mit einer geeigneten Struktur, wenn anstelle der symmetrischen Gruppe ${\displaystyle \operatorname {Sym} (X)}$ die Automorphismengruppe ${\displaystyle \operatorname {Aut} (X)}$ betrachtet wird und die Gruppenoperation sowie die Gruppenaktionen mit der auf ${\displaystyle X}$ bzw. ${\displaystyle \operatorname {Aut} (X)}$ vorliegenden Struktur verträglich sind. Beispiele hierfür gibt die allgemeine Darstellungstheorie, doch auch der Abschnitt Beispiele vermittelt hierfür einen ersten Eindruck.

Des Weiteren folgt erneut aus den Operationseigenschaften, dass eine Gruppenoperation von ${\displaystyle G}$ auf ${\displaystyle X}$ mit einem Gruppenhomomorphismus ${\displaystyle \Theta _{\triangleright }}$ von ${\displaystyle (G,*)}$ in die symmetrische Gruppe ${\displaystyle (\operatorname {Sym} (X),\circ )}$ gleichgesetzt werden kann:

${\displaystyle {\begin{matrix}\Theta _{\triangleright }\colon &(G,*)&\longrightarrow &(\operatorname {Sym} (X),\circ )\\&g&\mapsto &[\vartheta _{g\,\triangleright }:x\mapsto g\triangleright x]\end{matrix}}}$

Dieser Gruppenhomomorphismus heißt eine Permutationsdarstellung der Gruppe, da seine Wirkung auf ${\displaystyle X}$ durch Permutationen dargestellt wird.

Rechtsaktion

Analog zur Linksoperation ist eine Rechtsoperation, -aktion oder -wirkung eine äußere zweistellige Verknüpfung

${\displaystyle \triangleleft \colon X\times G\to X;\qquad (x,g)\mapsto x\triangleleft g}$

mit

1. ${\displaystyle x\triangleleft e=x}$ für alle ${\displaystyle x\in X}$ und das neutrale Element ${\displaystyle e}$ von ${\displaystyle G,}$
2. ${\displaystyle x\triangleleft (g*h)=(x\triangleleft g)\triangleleft h}$ für alle ${\displaystyle g,h\in G,x\in X.}$

Der Unterschied zwischen Links- und Rechtsoperationen liegt in der Art und Weise, wie Verknüpfungen ${\displaystyle g*h}$ auf ${\displaystyle X}$ operieren. Bei einer Linksoperation operiert zuerst ${\displaystyle h}$ und dann ${\displaystyle g}$, während bei einer Rechtsoperation die Reihenfolge umgekehrt ist.

Aus einer Rechtsoperation lässt sich eine Linksoperation konstruieren, indem man die Operation als Linksoperation der Gegengruppe schreibt, oder auch, indem statt ${\displaystyle g}$ von links ${\displaystyle g^{-1}}$ von rechts operiert. Zu jeder Rechtsoperation ${\displaystyle \triangleleft }$ gibt es eine Linksoperation

${\displaystyle \triangleright \colon G\times X\to X;\qquad (g,x)\mapsto g\triangleright x:=x\triangleleft g^{-1},}$

denn

${\displaystyle e\triangleright x=x\triangleleft e^{-1}=x\triangleleft e=x}$

und

${\displaystyle {\begin{aligned}(g*h)\triangleright x&=x\triangleleft (g*h)^{-1}=x\triangleleft (h^{-1}*g^{-1})\\&=(x\triangleleft h^{-1})\triangleleft g^{-1}=(h\triangleright x)\triangleleft g^{-1}=g\triangleright (h\triangleright x).\end{aligned}}}$

Analog lässt sich eine Links- in eine Rechtsoperation umwandeln. Da sich Links- und Rechtsoperation im Wesentlichen nicht unterscheiden, werden ab hier nur noch Linksoperationen betrachtet.

Bei der Betrachtung der Abbildung ${\displaystyle \Theta _{\triangleright }}$ ist allerdings Vorsicht geboten: Bei einer Linksoperation ist sie ein Gruppenhomomorphismus, weil Funktionssymbole üblicherweise auch linksseitig notiert werden: „${\displaystyle f(x)}$“. Bei ${\displaystyle f\circ g}$ operiert daher zuerst ${\displaystyle g}$ und anschließend ${\displaystyle f}$. Das entspricht der Reihenfolge bei einer Linksoperation gemäß der Eigenschaft der Verträglichkeit. Operiert die Gruppe aber von rechts, so handelt es sich um einen Antihomomorphismus von Gruppen, es sei denn, man trifft Vorkehrungen, wie oben geschildert, um dies zu verhindern.

Homomorphismen zwischen G-Mengen

Wenn ${\displaystyle Y}$ eine weitere Menge mit einer ${\displaystyle G}$-Linksoperation ${\displaystyle \star }$ ist und ${\displaystyle \varphi \colon X\to Y}$ eine Abbildung, so dass für alle ${\displaystyle g\in G}$ und für alle ${\displaystyle x\in X}$ gilt:

${\displaystyle \varphi (g\triangleright x)=g\star \varphi (x),}$

dann wird ${\displaystyle \varphi }$ als G-äquivariant oder auch als Homomorphismus von ${\displaystyle G}$-Mengen bezeichnet.

Bahn

Es sei ${\displaystyle \triangleright }$ die (Links-)Operation einer Gruppe ${\displaystyle (G,*)}$ auf einer Menge ${\displaystyle X.}$ Für jedes ${\displaystyle x\in X}$ nennt man dann

${\displaystyle G\triangleright x:=\{g\triangleright x\mid g\in G\}}$

die Bahn, das Transitivitätsgebiet, das Transitivitätssystem oder den Orbit (engl. orbit) von ${\displaystyle x.}$

Die Bahnen bilden eine Partition von ${\displaystyle X.}$ Die Anzahl der Elemente einer Bahn (bzw. ihre Mächtigkeit) wird auch die Länge der Bahn genannt. Für ein fest gewähltes ${\displaystyle x_{0}\in X}$ nennt man die durch

${\displaystyle g\mapsto g\triangleright x_{0}}$

gegebene Abbildung ${\displaystyle G\to X}$ die „Orbitabbildung“.

Die Bahnen sind die Äquivalenzklassen bezüglich der Äquivalenzrelation der Konjugation (unter der Operation der Gruppe ${\displaystyle G}$, scil.):

Elemente ${\displaystyle x,y\in X}$ heißen (unter der Gruppenoperation) konjugiert, (in Zeichen: „${\displaystyle x\sim y}$“) genau dann, falls es ein ${\displaystyle g\in G}$ gibt, für das ${\displaystyle g\triangleright x=y}$ gilt.

Offenbar sind zwei Elemente einer Bahn stets konjugiert.

Die Menge ${\displaystyle G\backslash X:=\{G\triangleright x\mid x\in X\}}$ der Äquivalenzklassen wird Bahnenraum oder Orbitraum genannt und besteht demnach aus den Konjugationsklassen (unter der Gruppenoperation).

Für eine Rechtsoperation ${\displaystyle \triangleleft }$ definiert man analog

${\displaystyle x\triangleleft G:=\{x\triangleleft g\mid g\in G\}}$

und

${\displaystyle X/G:=\{x\triangleleft G\mid x\in X\}.}$

Fundamentalbereich

Seien ${\displaystyle X}$ eine Menge und ${\displaystyle G}$ eine Transformationsgruppe von ${\displaystyle X}$. Für einen Punkt ${\displaystyle x\in X}$ bezeichne ${\displaystyle G\triangleright x}$ die Bahn von ${\displaystyle x}$. Dann heißt die Menge ${\displaystyle F\subset X}$ ein Fundamentalbereich von ${\displaystyle X}$, wenn der Schnitt ${\displaystyle G\triangleright x\cap F}$ für jedes ${\displaystyle x\in X}$ eine einelementige Menge ist. Mit anderen Worten enthält ein Fundamentalbereich genau einen Punkt aus jeder Bahn und ist damit dasselbe wie ein Repräsentantensystem der durch die Operation auf der Menge induzierten Äquivalenzrelation.

Beispiel

Das Quadrat ${\displaystyle [0,1)\times [0,1)}$ ist ein Fundamentalbereich von ${\displaystyle \mathbb {R} ^{2}}$ bezüglich der Transformationsgruppe ${\displaystyle \mathbb {Z} ^{2}}$. Jeder Punkt ${\displaystyle (x,y)\in \mathbb {R} ^{2}}$ lässt sich schreiben als ${\displaystyle (u+m,v+n)}$ mit ${\displaystyle (m,n):=(\lfloor x\rfloor ,\lfloor y\rfloor )\in \mathbb {Z} ^{2}}$ und ${\displaystyle (u,v):=(x-m,y-n)\in [0,1)\times [0,1)}$.

Transitive und scharf transitive Operationen

Man bezeichnet die Gruppenoperation ${\displaystyle \triangleright }$ von ${\displaystyle G}$ auf ${\displaystyle X}$ als (einfach) transitiv oder sagt „die Gruppe ${\displaystyle G}$ operiert (einfach) transitiv auf ${\displaystyle X}$“, wenn es zu je zwei Elementen ${\displaystyle x,y\in X}$ ein ${\displaystyle g\in G}$ gibt, so dass ${\displaystyle g\triangleright x=y}$ gilt. Es genügt sogar, dies nur für ein fest gewähltes ${\displaystyle x'\in X}$ zu fordern, das heißt: Ist ${\displaystyle x\in X}$, so operiert ${\displaystyle G}$ (einfach) transitiv, wenn es zu jedem ${\displaystyle y\in X}$ ein ${\displaystyle g\in G}$ gibt mit ${\displaystyle g\triangleright x=y}$. („Jedes Element von ${\displaystyle X}$ ist zu einem fest gewählten konjugiert.“)

Ist ein Gruppenelement ${\displaystyle g}$ mit ${\displaystyle g\triangleright x=y}$ darüber hinaus durch zwei beliebige Elemente ${\displaystyle x,y\in X}$ eindeutig bestimmt, so nennt man die Gruppenoperation scharf (einfach) transitiv.

Transitive Gruppenoperationen auf ${\displaystyle X}$ sind demnach dadurch gekennzeichnet, dass sie nur eine Bahn besitzen, die ganz ${\displaystyle X}$ umfasst, mit anderen Worten: Je zwei beliebige Elemente aus ${\displaystyle X}$ sind zueinander konjugiert.

Besitzt sie mehr als nur eine Bahn, so heißt die Gruppenoperation intransitiv.

Gibt es sogar zu jedem Paar ${\displaystyle (x_{1},x_{2})\in X^{2}}$ mit ${\displaystyle x_{1}\neq x_{2}}$ und jedem Paar ${\displaystyle (y_{1},y_{2})\in X^{2}}$ mit ${\displaystyle y_{1}\neq y_{2}}$ ein Gruppenelement ${\displaystyle g\in G}$, für das ${\displaystyle g\triangleright x_{1}=y_{1}}$ und ${\displaystyle g\triangleright x_{2}=y_{2}}$ ist, dann nennt man die Gruppenoperation zweifach transitiv und scharf zweifach transitiv, wenn es stets genau ein Gruppenelement mit der genannten Eigenschaft gibt.

Allgemein induziert eine Operation ${\displaystyle \triangleright }$ der Gruppe ${\displaystyle G}$ auf ${\displaystyle X}$ für ${\displaystyle k\in \mathbb {N} \setminus \{0\}}$ eine Operation

${\displaystyle \triangleright _{k}\colon G\times X^{k}\to X^{k}}$ durch ${\displaystyle g\triangleright _{k}(x_{1},x_{2},\dotsc ,x_{k})=(g\triangleright x_{1},g\triangleright x_{2},\dotsc ,g\triangleright x_{k}).}$

Da hierbei stets ${\displaystyle x_{i}=x_{j}\Leftrightarrow g\triangleright x_{i}=g\triangleright x_{j}}$ gilt, lässt sich diese Operation auf jene Teilmenge ${\displaystyle (X^{k})'\subseteq X^{k}}$ beschränken, die nur diejenigen Tupel ${\displaystyle (x_{i})_{1\leq i\leq k}}$ mit paarweise verschiedenen Einträgen ${\displaystyle x_{i}}$ enthält.

Ist ${\displaystyle \triangleright _{k}\colon (X^{k})'\to (X^{k})'}$ (scharf) einfach transitiv, dann heißt die Gruppenoperation ${\displaystyle \triangleright }$ (scharf) ${\displaystyle k}$-fach transitiv. Mit anderen Worten: Die Gruppe ${\displaystyle G}$ operiert via ${\displaystyle \triangleright }$ genau dann

• ${\displaystyle k}$-fach transitiv auf ${\displaystyle X}$, wenn ${\displaystyle \triangleright _{k}}$ transitiv operiert,
• scharf ${\displaystyle k}$-fach transitiv auf ${\displaystyle X}$, wenn ${\displaystyle \triangleright _{k}}$ auf ${\displaystyle (X^{k})'}$ scharf einfach transitiv operiert, das heißt, wenn es für ${\displaystyle t_{1},t_{2}\in (X^{k})'}$ (also für „${\displaystyle k}$-Tupel ohne Doppelnennung“) stets genau ein Gruppenelement ${\displaystyle g\in G}$ mit ${\displaystyle g\triangleright _{k}t_{1}=t_{2}}$ gibt.

Wichtige Anwendungen haben solche (scharf) transitiven Operationen in der Geometrie, siehe zum Beispiel Affinität (Mathematik), Moufangebene, Affine Translationsebene.

Bei der Anwendung auf Graphen begegnet man, wenn keine Missverständnisse zu befürchten sind, den kurzen Formulierungen „der Graph ist kantentransitiv“ oder „die Gruppe ist kantentransitiv“ (engl. edge-transitive) anstelle der ausführlichen Formulierung „die Symmetriegruppe des Graphen operiert transitiv auf den Kanten“.

Beispiele

• Die (Kleinsche) Vierergruppe ${\displaystyle V_{1}:=\{e,(12)(34),(13)(24),(14)(23)\}}$ operiert (scharf einfach) transitiv auf der Menge ${\displaystyle X:=\{1,2,3,4\}}$, da die Ziffer 1 in jede andere übergeführt werden kann. Dies gilt nicht für die Operation der Vierergruppe ${\displaystyle V_{2}:=\{e,(12),(34),(12)(34)\}}$ auf ${\displaystyle X}$. Dabei sind ${\displaystyle V_{1}}$ und ${\displaystyle V_{2}}$ zueinander isomorph und zur Diedergruppe der Ordnung vier.
• Die Galoisgruppe eines über einem Körper ${\displaystyle K}$ irreduziblen Polynoms (etwa eines Polynoms mit rationalen Koeffizienten (${\displaystyle K=\mathbb {Q} }$)) operiert transitiv auf der Menge der Nullstellen des Polynoms. Dieses Beispiel ist Gegenstand des Abschnittes „Automorphismengruppe eines Körpers und einer Galois-Erweiterung“.

Homogene Operationen

Eine Verallgemeinerung der ${\displaystyle k}$-fach transitiven Operation ist die ${\displaystyle k}$-fach homogene Operation. Eine Gruppe ${\displaystyle G}$ operiert ${\displaystyle k}$-fach homogen auf der Menge ${\displaystyle X}$ mit ${\displaystyle k\in \mathbb {N} \setminus \{0\},}$ wenn es für zwei beliebige Teilmengen ${\displaystyle U,V\subseteq X}$ mit je genau ${\displaystyle k}$ Elementen stets mindestens ein Gruppenelement ${\displaystyle g\in G}$ gibt, das ${\displaystyle U}$ auf ${\displaystyle V}$ abbildet, also mit ${\displaystyle g\triangleright U=V.}$ Jede ${\displaystyle k}$-fach transitive Operation ist auch ${\displaystyle k}$-fach homogen. Von der homogenen Operation wird im Unterschied zur transitiven Operation nicht verlangt, dass die ${\displaystyle k}$ vorgegebenen Urbildelemente in einer bestimmten Reihenfolge auf die vorgegebenen Bildelemente abgebildet werden.

Stabilisator

Für ein ${\displaystyle x\in X}$ nennt man

${\displaystyle G_{x}=\{g\in G\mid g\triangleright x=x\}}$

den Stabilisator, die Isotropiegruppe, die Fixgruppe oder die Standuntergruppe von ${\displaystyle x.\;(G_{x},*)}$ ist eine Untergruppe von ${\displaystyle (G,*)}$, die auf ${\displaystyle G}$ operiert. Durch die Operation ${\displaystyle \triangleright }$ ist dann eine kanonische Bijektion zwischen der Menge der Linksnebenklassen nach dem Stabilisator des Elements ${\displaystyle x}$ und dessen Bahn gegeben (siehe unten „Bahnensatz“):

${\displaystyle G/G_{x}\;{\stackrel {\cong }{\to }}\;G\triangleright x,\quad g*G_{x}\mapsto g\triangleright x.}$

Gehören ${\displaystyle x}$ und ${\displaystyle y}$ derselben Bahn an (${\displaystyle x\sim y}$) so sind die zugehörigen Fixgruppen ${\displaystyle G_{x},G_{y}}$ im Sinne der Gruppentheorie zueinander konjugierte Untergruppen, das heißt, mit einem geeigneten ${\displaystyle g\in G}$ gilt: ${\displaystyle G_{x}=g^{-1}*G_{y}*g}$. Dazu wähle nämlich ${\displaystyle g}$ mit ${\displaystyle y=g\triangleright x}$ gemäß Voraussetzung. Kurz: Fixgruppen konjugierter Elemente sind konjugierte Untergruppen.

${\displaystyle G_{x}}$ operiert (durch Einschränkung von ${\displaystyle \triangleright }$) auf ${\displaystyle X\setminus \{x\}.}$ Ist diese Operation ${\displaystyle k}$-fach transitiv und ${\displaystyle G_{x}\neq G,}$ so ist die Operation von ${\displaystyle G}$ auf ${\displaystyle X}$ sogar ${\displaystyle (k+1)}$-fach transitiv.

Ist ${\displaystyle Y\subseteq X}$ eine Teilmenge und ${\displaystyle H\subseteq G}$ eine Untergruppe, und gilt

${\displaystyle H\triangleright Y\subseteq Y}$ mit ${\displaystyle H\triangleright Y:=\{h\triangleright y\mid h\in H,y\in Y\},}$

so sagt man, dass ${\displaystyle Y}$ stabil oder invariant unter (der Operation von) ${\displaystyle H}$ ist oder dass ${\displaystyle Y}$ von ${\displaystyle H}$ stabilisiert wird. Es gilt dann stets sogar ${\displaystyle H\triangleright Y=Y.}$ Der Stabilisator eines Punktes ${\displaystyle x\in X}$ ist also die maximale Untergruppe von ${\displaystyle G,}$ die ${\displaystyle \{x\}}$ stabilisiert.

Wenn ${\displaystyle Y\supset Y'}$, so ist die maximale Untergruppe von ${\displaystyle G}$, die ${\displaystyle Y}$ stabilisiert, eine Teilmenge der maximalen Untergruppe von ${\displaystyle G}$, die ${\displaystyle Y'}$ stabilisiert.

Fixgruppen von Mengen und ihre Normalisatoren

Für eine (nicht notwendig echte) Teilmenge ${\displaystyle Y\subseteq X}$ bezeichnet ${\displaystyle G_{Y}:=\operatorname {Fix} _{G}(Y):=\{g\in G\mid \forall y\in Y:g\triangleright y=y\}}$ die Menge aller Gruppenelemente, die jeden Punkt ${\displaystyle y\in Y}$ unverändert lassen.

Die Fixgruppe von einer Menge ${\displaystyle Y}$ ist in der maximalen die Menge ${\displaystyle Y}$ stabilisierenden Untergruppe enthalten, jedoch im Allgemeinen nicht mit ihr identisch, da diese die Punkte aus ${\displaystyle Y}$ nicht punktweise fixieren muss, sondern permutieren darf.

Für ${\displaystyle h\in G}$ folgt unmittelbar aus der Definition:

• ${\displaystyle \operatorname {Fix} _{G}(h\triangleright Y)=h*\operatorname {Fix} _{G}(Y)*h^{-1}}$.
• Ist ${\displaystyle Y':=h\triangleright Y}$ und bezeichnet ${\displaystyle U=\{g\in G\mid g\triangleright Y=Y\}}$ die maximale die Menge ${\displaystyle Y}$ stabilisierende Untergruppe von ${\displaystyle G}$ sowie ${\displaystyle U'}$ die Entsprechung für ${\displaystyle Y'}$, so gilt ${\displaystyle U'=h^{-1}*U*h}$, denn ${\displaystyle g\in U'\Leftrightarrow (g*h)\triangleright Y=h\triangleright Y\Leftrightarrow h^{-1}*g*h\in U}$.

Zusammenfassend: Die maximal stabilisierenden Untergruppen (bzw. die Fixgruppen) konjugierter Teilmengen sind unter der Operation der inneren Automorphismen (siehe Beispiel „Operation durch Konjugation“) konjugiert. Insbesondere sind die maximal stabilisierenden Untergruppen (bzw. die Fixgruppen) von Teilmengen ${\displaystyle Y}$, die unter der Operation der gesamten Transformationsgruppe stabil (invariant) sind Normalteiler in der Transformationsgruppe.

Auch wenn ${\displaystyle Y}$ nicht invariant unter der gesamten Transformationsgruppe ist, so folgt aus der Identität ${\displaystyle \operatorname {Fix} _{G}(h\triangleright Y)=h*\operatorname {Fix} _{G}(Y)*h^{-1}}$ für jedes ${\displaystyle h\in G}$ (und unter Beachtung der Tatsache ${\displaystyle \operatorname {Fix} _{G}(Y)\subseteq U}$) die Äquivalenz

${\displaystyle h\in U\Leftrightarrow h*\operatorname {Fix} _{G}(Y)*h^{-1}=\operatorname {Fix} _{G}(Y)}$.

Also stehen die Fixgruppe ${\displaystyle \operatorname {Fix} _{G}(Y)}$ und die sie umfassende maximale Untergruppe ${\displaystyle U}$, unter deren Operation ${\displaystyle Y}$ invariant ist, in dem bemerkenswerten Verhältnis:

${\displaystyle U=\{g\in G\mid g*\operatorname {Fix} _{G}(Y)*g^{-1}=\operatorname {Fix} _{G}(Y)\}=:\operatorname {Nor} _{G}(\operatorname {Fix} _{G}(Y))}$. Die rechte Menge heißt der Normalisator von ${\displaystyle \operatorname {Fix} _{G}(Y)}$ in ${\displaystyle G}$, da sie die maximale Untergruppe von ${\displaystyle G}$ ist, in der ${\displaystyle \operatorname {Fix} _{G}(Y)}$ als Normalteiler enthalten ist. Diese ist identisch mit der maximalen Untergruppe ${\displaystyle \operatorname {Inv} _{G}(Y)}$ von ${\displaystyle G}$, unter deren Operation ${\displaystyle Y}$ invariant (stabil) ist: ${\displaystyle \operatorname {Nor} _{G}(\operatorname {Fix} _{G}(Y))=\operatorname {Inv} _{G}(Y):=\{g\in G\mid g\triangleright Y\subseteq Y\}}$.

Fixpunktmengen

Ein Element ${\displaystyle x\in X}$ heißt Fixpunkt unter der Operation eines ${\displaystyle g\in G}$, wenn ${\displaystyle g\triangleright x=x}$. Es heißt Fixpunkt unter der Gruppe(noperation einer Untergruppe) ${\displaystyle H\subset G}$, wenn es Fixpunkt eines jeden ${\displaystyle h\in H}$ ist.

Für Fixpunktmengen finden sich in der Literatur folgende Schreibweisen:

• die Menge aller Fixpunkte unter ${\displaystyle g}$:

${\displaystyle X^{g}:=\{x\in X\mid x{\text{ ist Fixpunkt unter }}g\}}$

• die Menge aller Fixpunkte unter einer Untergruppe ${\displaystyle H\subset G}$:

${\displaystyle X^{H}:=\{x\in X\mid h{\text{ ist Fixpunkt unter der Operation von }}H\}}$

Erzeugt das Element ${\displaystyle h\in G}$ die Untergruppe ${\displaystyle H}$, so gilt ${\displaystyle X^{h}=X^{H}}$.

Selbstverständlich ist die Fixpunktmenge ${\displaystyle X^{H}}$ stabil unter ${\displaystyle H}$, doch ist es im Allgemeinen nicht gleich der maximalen unter ${\displaystyle H}$ stabilen Teilmenge, denn in dieser müssen die Elemente nicht punktweise fix bleiben, sondern dürfen untereinander permutiert werden.

Es gilt ${\displaystyle X^{H}\subset X^{H'}}$, falls ${\displaystyle H\supset H'}$, wie leicht zu erkennen.

Des Weiteren gilt offensichtlich ${\displaystyle \operatorname {Fix} _{G}(X^{H})\supset H}$. Der Übergang von ${\displaystyle H\mapsto \operatorname {Fix} _{G}(X^{H})}$ wird gelegentlich als „Abschluss der Untergruppe“ ${\displaystyle H}$ (im Sinne der Gruppenoperation) bezeichnet.

Konjugierte Mengen

In Verallgemeinerung des obigen Begriffs der Konjugation nennt man zwei Teilmengen ${\displaystyle Y_{1},Y_{2}\subset X}$ (unter der Gruppenoperation) konjugiert, wenn es ein Element ${\displaystyle g\in G}$ mit der Eigenschaft ${\displaystyle g\triangleright Y_{1}=Y_{2}}$ gibt.

Schränkt man die transitive Operation einer Gruppe ${\displaystyle G}$ auf einen Normalteiler ${\displaystyle N}$ ein, so sind deren Bahnen ${\displaystyle N\triangleright x}$ ${\displaystyle (x\in X)}$ sämtlich unter der Gruppenoperation von ${\displaystyle G}$ zueinander konjugiert, das heißt: Sind ${\displaystyle x,y\in X}$, so gibt es ${\displaystyle g\in G}$ mit ${\displaystyle g\triangleright (N\triangleright x)=N\triangleright y}$. Dazu wähle ${\displaystyle g\in G}$ mit ${\displaystyle g\triangleright x=y}$ und beachte ${\displaystyle g*N=N*g}$ gemäß Voraussetzung.

Auf den Transitivitätsgebieten unter einem Normalteiler operiert die Quotientengruppe ${\displaystyle G/N}$ wohldefiniert.

Ferner folgt: Ist ${\displaystyle X}$ endlich, so besitzen die Transitivitätsgebiete unter einem Normalteiler dieselbe Mächtigkeit.

Primitive Gruppenoperationen und Imprimitivitätsgebiete

Für transitive Gruppenoperationen gibt es zwei triviale Partitionierungen ${\displaystyle X=\biguplus _{i\in I}Y_{i}}$ der Menge ${\displaystyle X}$ in Teilmengen ${\displaystyle Y_{i}}$, so dass die Gruppenoperation diese Teilmengen permutiert. Dabei sei ${\displaystyle I}$ eine nichtleere Indexmenge, die das neutrale Element ${\displaystyle e\in G}$ enthalte. Das die Teilmengen permutiert werden, bedeutet, dass es zu jedem ${\displaystyle g\in G}$ ein ${\displaystyle i\in I}$ gibt mit ${\displaystyle g\triangleright Y_{e}=Y_{i}}$. Daher lässt sich als Indexmenge eine Teilmenge ${\displaystyle I\subseteq G}$ (oder eine gleichmächtige Menge) wählen, die (ohne Einschränkung) ${\displaystyle e_{G}}$ enthalte. Die beiden erwähnten trivialen Partitionierungen sind:

• die Partition in einelementige Teilmengen: ${\displaystyle X=\biguplus _{x\in X}\{x\}}$ (mit ${\displaystyle I=X}$ und ${\displaystyle Y_{x}=\{x\}}$) und
• die „Partition“ ${\displaystyle X=Y}$ (mit ${\displaystyle I=\{e\}}$ und ${\displaystyle Y_{e}=X}$).

Wenn eine transitiv operierende Gruppe nur diese beiden trivialen Partitionierungen besitzt, so heißt ihre Gruppenoperation primitiv, andernfalls imprimitiv.

Operiert sie imprimitiv, so gibt es demnach Teilmengen ${\displaystyle Y_{i}\subsetneqq X\;(i\in I\subseteq G)}$, die sämtlich mehr als nur ein Element enthalten und eine Partition von ${\displaystyle X}$ darstellen. Es lässt sich folgern, dass sie zueinander paarweise konjugiert und infolgedessen gleichmächtig sind.

Die Teilmengen ${\displaystyle Y_{i}}$ einer nicht-trivialen Partitionierung heißen Imprimitivitätsgebiete.

Die Eigenschaft, primitiv zu operieren, liegt allein in der Gruppe beschlossen, denn für transitiv operierende Gruppen gilt folgendes

Kriterium für primitive Gruppenoperation

Bezeichnet ${\displaystyle G_{x}}$ die Fixgruppe eines Elementes ${\displaystyle x\in X}$, so sind äquivalent:

• Es gibt eine echte Zwischengruppe ${\displaystyle G_{x}\subsetneqq H\subsetneqq G}$.
• ${\displaystyle G}$ operiert imprimitiv.

Andernfalls operiert ${\displaystyle G}$ primitiv, das heißt ${\displaystyle X}$ ist eine primitive ${\displaystyle G}$-Menge.

Zum Beweis:

• Ist die Partition gegeben, so liege dabei (ohne Beschränkung der Allgemeinheit) ${\displaystyle x\in Y_{e}}$, und es ist offenbar ${\displaystyle H}$ gerade die maximale ${\displaystyle Y_{e}}$ stabilisierende Untergruppe, das heißt: ${\displaystyle H=\{h\in G\mid h\triangleright Y_{e}\subseteq Y_{e}\}=\operatorname {Inv} _{G}(Y_{e})}$. Damit gilt notwendig ${\displaystyle G_{x}\subsetneqq H\subsetneqq G}$.
• Ist umgekehrt ${\displaystyle H}$ gegeben so setze man ${\displaystyle Y_{e}=H\triangleright x}$ und folgere ${\displaystyle \{x\}\subsetneqq Y_{e}\subsetneqq X}$. Die Partition in Imprimitivitätsgebiete ist gegeben durch

${\displaystyle Y_{g}:=g\triangleright Y_{e}=(g*H)\triangleright x}$, wobei ${\displaystyle g*H}$ die Linksnebenklassen von ${\displaystyle H}$ durchläuft, ${\displaystyle g}$ selbst also nur ein geeignetes Repräsentantensystem ${\displaystyle I\subseteq G}$ dieser Linksnebenklassen. Insgesamt erhält man die Partition:

${\displaystyle X=\biguplus _{g*H\in G/H}g\triangleright Y_{e}=\biguplus _{g\in I}\underbrace {(g*H)\triangleright x} _{=Y_{g}}}$.

Umgekehrt gilt also: ${\displaystyle G}$ operiert genau dann primitiv, wenn die Fixgruppe ${\displaystyle G_{x}}$ eines Elementes ${\displaystyle x\in X}$ eine maximale Untergruppe in ${\displaystyle G}$ ist.

Die Eigenschaft der Primitivität lässt sich mit Hilfe des Begriffs der Kongruenzrelation konziser beschreiben: Eine Äquivalenzrelation „${\displaystyle \sim }$“ auf der Menge ${\displaystyle X}$ heiße Kongruenzrelation auf der ${\displaystyle G}$-Menge ${\displaystyle X}$, wenn sie mit der ${\displaystyle G}$-Operation in folgendem Sinne verträglich ist: ${\displaystyle x\sim y\Rightarrow g\triangleright x\sim g\triangleright y}$. Genau dann operiert ${\displaystyle G}$ auf den Äquivalenzklassen wohldefiniert durch ${\displaystyle g\triangleright [x]_{\sim }:=[g\triangleright x]_{\sim }}$ („Quotientenbildung nach der Kongruenzrelation“). Die ${\displaystyle G}$-Menge ${\displaystyle X}$ (bzw. die Operation von ${\displaystyle G}$ auf ${\displaystyle X}$) ist primitiv, wenn sie nur die trivialen Kongruenzrelationen zulässt, nämlich die Identität (${\displaystyle [x]=\{x\}}$) und die Allrelation (Universalrelation) (${\displaystyle [x]=X}$).

Freie und treue Operationen

Die Operation heißt frei oder semiregulär, falls jedes Element der Menge nur vom neutralen Element der Gruppe fixiert wird. Das bedeutet, dass sämtliche Stabilisatoren trivial sind, d. h. ${\displaystyle G_{x}=\{e\}}$ für alle ${\displaystyle x\in X}$, oder – angesichts des Bahnensatzes äquivalent – dass jede Bahn die Länge ${\displaystyle (G:1)}$ hat. Die Bahnengleichung für endlicher Menge ${\displaystyle X}$ lautet dann vereinfacht:

${\displaystyle \#X=\sum _{x\in R}(G:1)=\#R\cdot (G:1)}$, wobei ${\displaystyle R}$ ein Repräsentantensystem der Äquivalenzklassen von ${\displaystyle X}$ bezeichne.

Die Operation heißt treu bzw. effektiv, falls nur das neutrale Element der Gruppe alle Elemente der Menge zugleich fixiert. Das bedeutet, dass der zugehörige Homomorphismus ${\displaystyle \Theta _{\triangleright }\colon G\to \operatorname {Sym} (X)}$ trivialen Kern hat, also injektiv ist.

Jede freie Gruppenoperation auf einer nichtleeren Menge ist treu.

Operiert eine Gruppe nicht treu, so induziert sie eine treue Operation durch die Faktorgruppe nach dem Kern: ${\displaystyle {\overline {\Theta _{\triangleright }}}\colon G/(\ker \Theta _{\triangleright })\to \operatorname {Sym} (X)}$.

Darstellung der Transformationsgruppe durch Permutationen bzw. als Permutationsgruppe

Bei treuer Operation auf einer endlichen Menge ${\displaystyle X}$ kann die Transformationsgruppe ${\displaystyle G}$ demnach als Untergruppe der symmetrischen Gruppe ${\displaystyle \operatorname {Sym} (X)}$ aufgefasst werden: Man sagt dann, dass „${\displaystyle G}$ als Permutationsgruppe auf ${\displaystyle X}$ operiere“ oder dass ${\displaystyle \Theta _{\triangleright }}$ „die Transformationsgruppe als Permutationsgruppe darstelle“, nämlich als die Permutationsgruppe ${\displaystyle \Theta _{\triangleright }(G)}$. Entsprechend heißt ${\displaystyle \Theta _{\triangleright }}$ eine Permutationsgruppendarstellung von ${\displaystyle G}$.

Umgekehrt induziert eine Einbettung ${\displaystyle G\hookrightarrow \operatorname {Sym} (X)}$ eine Operation von ${\displaystyle G}$ auf ${\displaystyle X}$.

In der Sprache der Darstellungstheorie, etwa der endlicher oder kompakter Gruppen, ist es üblich, von einer Darstellung nicht a priori die Injektivität zu verlangen: Es genügt, dass sie eine homomorphe Abbildung ist. Wenn sie darüber injektiv ist, so heißt sie eine treue Darstellung. Jede Gruppenoperation (auf einer endlichen Menge) liefert eine Permutationsdarstellung, das heißt eine Darstellung durch Permutationen. Jede treue Permutationsdarstellung ist eine Darstellung als Permutationsgruppe, das heißt eine Permutationsgruppendarstellung, und gibt also eine Interpretation der Transformationsgruppe als eine Gruppe von Permutationen auf einer endlichen Menge. Die Anzahl ihrer Elemente heißt Grad der Darstellung bzw. Operation. Diese Sprechweise befindet sich im Einklang mit den Gepflogenheiten der Darstellungstheorie.

Permutationsgruppen

Die beiden oben bereits beispielhaft genannten Gruppen

• ${\displaystyle V_{1}:=\{e,(12)(34),(13)(24),(14)(23)\}}$ und
• ${\displaystyle V_{2}:=\{e,(12),(34),(12)(34)\}}$

sind als Gruppen isomorph zu (Kleinschen) Vierergruppe.

Ihre Operation auf der Menge ${\displaystyle X:=\{1,2,3,4\}}$ sind nicht äquivalent:

• ${\displaystyle V_{1}}$ operiert (scharf einfach) transitiv, da die Ziffer 1 in jede andere (von genau einem Gruppenelement) überführt werden kann. Darüber hinaus operiert sie imprimitiv, wie die möglichen Partitionen in Imprimitivitätsgebiete (nichttriviale Kongruenzklassen) zeigen:
  • Entweder ${\displaystyle X:=\{1,2\}\uplus \{3,4\}}$
  • oder ${\displaystyle X:=\{1,3\}\uplus \{2,4\}}$
  • oder ${\displaystyle X:=\{1,4\}\uplus \{2,3\}}$.
• ${\displaystyle V_{2}}$ hingegen operiert nicht transitiv. Die Menge ${\displaystyle X}$ zerfällt in die Bahnen ${\displaystyle \{1,2\}}$ und ${\displaystyle \{3,4\}}$.

Beachte hierbei, dass die ursprünglich treue Operation der Kleinschen Vierergruppe ${\displaystyle V_{1}}$ bei der Reduktion auf die beiden Imprimitivitätsgebiete aus ${\displaystyle X/\!\!\sim }$ ihre Treue verliert.

Äquivalente Permutationsgruppendarstellungen setzen gleiche Transformationsgruppen voraus. Isomorphe Permutationsgruppen können jedoch inäquivalent sein. Im vorliegenden Falle gibt es keine bijektive Selbstabbildung auf ${\displaystyle X}$, die zwischen beiden Operationen vermittelt.

Beispielsweise verfügt die alternierende Gruppe ${\displaystyle A_{5}}$ fünften Grades über transitive primitive Darstellungen fünften, sechsten und zehnten Grades, die natürlich nicht äquivalent sind. Weitere transitive primitive Darstellungen anderer Grade gibt es allerdings nicht.

Darstellung durch Permutationsmatrizen

Operiert die Gruppe ${\displaystyle G}$ auf einer Basis ${\displaystyle X}$ eines endlichdimensionalen Vektorraumes ${\displaystyle V}$ über dem Körper ${\displaystyle K}$ und setzt man die Permutationen von ${\displaystyle \operatorname {Sym} (X)}$ linear auf den Vektorraum ${\displaystyle V}$ fort, so erhält man eine lineare Darstellung der Gruppe ${\displaystyle G}$ durch Automorphismen auf ${\displaystyle V}$, die (bezüglich ${\displaystyle X}$) durch Permutationsmatrizen dargestellt werden und natürlich bijektiv sind: Vgl. auch lineare Permutationsdarstellung.

Operation einer Gruppe auf sich selbst