Formé au VIK Västerås HK, Holmberg commence sa carrière avec l'équipe, qui évolue alors en troisième division suédoise. Bien qu'il évolue dans un championnat moindre, les Maple Leafs de Toronto décident de le repêcher au sixième tour. Durant les années suivantes, il passe aux Växjö Lakers HC, une équipe de la division élite, et s'améliore d'année en année. En 2021, l'équipe remporte la ligue suédoise et Holmberg remporte le trophée Stefan-Liv en tant que joueur par excellence des séries. Suite à cette campagne, il signe un contrat d'entrée de deux ans avec les Leafs. Son contrat prévoit tout de même un prêt à Växjö l'année suivante.
En Amérique du Nord
À la conclusion de sa dernière saison en Suède, Holmberg rejoint les Marlies de Toronto où il se fait rapidement remarquer. À la fin de la saison, il est convoqué par le directeur général des Maple Leafs, Kyle Dubas, pour définir son rôle à venir dans l'organisation. Il est rapidement élevé dans l'équipe l'année suivante et se taille une place permanente à son deuxième rappel et devient un régulier des deux derniers trios de l'entraîneur Sheldon Keefe.
Avec l'équipe, Holmberg accumule 159 matchs et 49 points, dont 19 lors de sa dernière campagne. Il se fait remarquer pour sa capacité de conduire ses adversaires à commettre des pénalités. Cependant, à la fin de la saison 2024-2025, le nouveau directeur général de l'équipe, Brad Treliving, décide de ne pas lui offrir d'offres qualificatives dues à des contraintes salariales. Devenu joueur autonome le , il signe un contrat de deux ans avec le Lightning de Tampa Bay en compagnie de son coéquipier Nick Abruzzese,,.
Carrière en équipe nationale
Holmberg représente la Suède au niveau international. Il participe à deux Jeux olympiques avec l'équipe, soit ceux de 2022 et 2026.
Suède
