Baltzer war das fünfte Kind der Familie eines armen Berliner Tischlers. Schon mit zehn Jahren verdinge er sich als Fabrikarbeiter und Hütejunge. Ab 1916 absolvierte er eine Lehre als Stein- und Offsetdrucker. Daneben betätigte er sich autodidaktisch als Maler und Zeichner. Er besuchte die Handwerkerschule, wo er auch seine künstlerischen Fähigkeiten erweitern konnte. 1924 machte er sich in Berlin mit einem Freund mit einem Reklameatelier am Schleswiger Ufer 11 selbständig. Für viele seiner Arbeiten benutze er Tierdarstellungen. Neben kommerziellen Werbematerialien entwarf er vor der Machtergreifung der Nazis auch einige politische Plakate, u.a. für die KPD und die SPD. Von 1939 als 1945 arbeitete er als technischer Zeichner.
Nach dem Ende des NS-Staats begann er in Berlin als freischaffender Künstler zu arbeiten. 1945 traf er in Berlin den russischen Maler Wladimir Bogatkin (1922–1971), mit dem eine enge Künstlerfreundschaft entstand.
Von 1947 bis 1952 war Baltzer Leiter der Klasse Illustration an der Meisterschule für Graphik und Buchgewerbe (ab 1949 Fachschule für Grafik, Druck und Werbung) in Berlin. Danach arbeitete er wieder freischaffend. Ab etwa 1950 gehörte er zu den als „Hagemannkollektiv“ bezeichneten Mitarbeitern des Berliner Verlags Volk und Wissen, die neue Schullehrbücher entwickelten, so u.a. eine neue Schulfibel „Wir lernen lesen“, für die er die Illustrationen schuf. Weitere Mitarbeiter des Kollektivs waren u.a. Robert Alt, Ernst Zeno Ichenhäuser und Arthur Ploog.
1997 überließ sein Sohn, der Grafiker Jochen Baltzer, der Staatsbibliothek Berlin als Dauerleihgabe große Teil des Nachlasses Baltzers mit über eintausend Blatt Illustrationen.
Baltzer war der Großvater des Illustrators Hans Baltzer (* 1972).
Sorbische Spinnerin (Pinsel und Feder; 1956 auf der Ausstellung Ein Bekenntnis zum Leben)
Rast (Pastell; 1956 auf der Ausstellung Ein Bekenntnis zum Leben)
Plakate
Filmplakate
Don Quichotte (1958)
Frühlingswind (1958)
Neujahrsopfer (1958)
Politische Plakate
Ihr Schaffenden werdet Kämpfer (um 1930)
Essayistischer Text
Illustration und Buchkunst. Einige Vorbemerkungen zur Internationalen Buchkunst-Ausstellung 1965. In: Bildende Kunst, Berlin, 1965, S. 344–347
Ausstellungen (unvollständig)
Einzelausstellung
1958: Berlin, Pavillon der Kunst Unter den Linden („Zwei Freunde sehen China“; mit Wladimir Bogatkin)
Ausstellungsbeteiligungen
1954, 1957 und 1960: Berlin, Bezirkskunstausstellungen Gebrauchsgrafik
1956: München, Städtische Galerie im Lenbachhaus, und Berlin, Deutsche Akademie der Künste (Gesamtdeutsche Graphikausstellung „Ein Bekenntnis zum Leben“)
1958 bis 1968: Dresden, Vierte bis VI. Deutsche Kunstausstellung