En 1988, il commence des études de droit public à l'université Johannes Gutenberg de Mayence. De 1995 à 2007 il est membre du conseil communal de son quartier Mainz-Mombach. Il travaillé comme adjoint de Klaus Hammer, puis en tant que conseiller politique au ministère de l'Éducation, la Science, Recherche et Culture du Land de Rhénanie-Palatinat dans le bureau du ministre d'État Jürgen Zöllner. De 1994 à 2002, Ebling était membre de conseil municipal de Mayence, où il était, entre autres, le Bureau du porte-parole de la politique culturelle. Il a été également membre du Directoire du groupe parlementaire. De 1995 à 2007, il a été président du SPD communal et en tant que successeur par Ursula Distelhut maire de Mainz-Mombach.
Ebling était élu en 1998 vice-président, le président du SPD à Mayence. En 2002, il a été élu que secrétaire adjoint à temps plein de la ville de Mayence pour les affaires sociales, de la santé et du logement, après le changement de son prédécesseur Malu Dreyer en le Cabinet Beck III de Rhénanie-Palatinat. Depuis , Michael Ebling était secrétaire d'État dans le Ministère de l'Éducation, de la Science, de la Formation professionnelle et de la Culture, dirigé par Doris Ahnen. Comme le candidat du SPD pour l'élection du maire de Mayence, le , il atteint 40,5% (l'équivalent de 26 202 voix) et est donc contre Günter Beck (Alliance 90 / Les Verts), qui a atteint la deuxième place à 26,6% (17 204 voix), sur le bulletin .
Après que Roger Lewentz a annoncé sa démission du poste de ministre de l'Intérieur et des Sports de Rhénanie-Palatinat le , Ebling est nommé à sa succession le lendemain.
En , il prend la décision d'interdire aux membres de l'Alternative pour l'Allemagne (AfD) d'intégrer la fonction publique, à la suite du classement de ce parti comme «extrême droite certaine» (gesichert rechtsextrem) par l'Office fédéral de protection de la Constitution (BfV) en mai précédent. La nouvelle réglementation s'applique aussi bien aux fonctionnaires qu'aux employés couverts par des conventions collectives de la fonction publique, notamment les policiers et les enseignants. La CDU de Rhénanie-Palatinat a vivement critiqué la démarche du ministre de l’Intérieur. Selon elle, «au lieu de garantir la sécurité juridique, Ebling se livre à une mise en scène politique».
