Élève d'Aristide Croisy, Alphonse Colle est le fils d'un ancien ingénieur en chef des ponts et chaussées du département. Il épouse Lucie Jeanne Gailly, fille de l'industriel et homme politique Gustave Gailly.
Son Monument à Charles de Gonzague«à la gloire d'un prince très catholique», inauguré en 1899 à Charleville, crée une polémique au sein des milieux politiques et ouvriers qui jugent cet hommage à contre-courant, coûteux et saugrenu.
L'artiste est apprécié pour ses sujets gracieux inspirés de la statuaire du XVIIIesiècle (Femme au coussin, collection particulière; Enfant au berceau, localisation inconnue), mais il réalise également des sujets proches du réalisme social (Pendant la grève, groupe en plâtre, Salon de 1894; La Rentrée de l'usine, haut-relief, Salon de 1907).
Les Lutteurs ou Combat de coqs, avant 1918, groupe en bronze, envoyé à la fonte par l'occupant allemand pendant la Première Guerre mondiale.
Monument à Arthur Rimbaud, 1927, buste en bronze, envoyé à la fonte sous le régime de Vichy, dans le cadre de la mobilisation des métaux non ferreux, remplacé en 1954 par un buste exécuté par Dumont d’après celui d’Alphonse Colle.