Riedstra studeerde van 1972 tot 1981 politicologie aan de Vrije Universiteit Amsterdam. Hij specialiseerde zich in internationale betrekkingen. Daarna gaf hij les aan tweedegraads lerarenopleiding gezondheidskunde in Utrecht en een opleiding bejaardenwelzijnswerk in Den Haag aan een hbo-instelling. Van 1986 tot 1993 vervulde hij diverse functies bij het ministerie van OCW. In 1993 vertrok Riedstra naar het ministerie van Verkeer en Waterstaat. Tot 1999 was hij betrokken bij marktregulerings-onderwerpen in de publieke transportsector. Hij was ook betrokken bij de liberalisering van taxidiensten, de decentralisatie en marktwerkingsprocessen in stads- en streekvervoer en bij de ontvlechting van het railtransport. In de jaren daarna was Riedstra actief in het veld van vrachtvervoer. De ruimtelijke aspecten van goederentransport, de ontwikkeling van de Nederlandse havens en de besluitvorming rond de ontwikkeling van de Tweede Maasvlakte. In 2002-2005 coördineerde hij bij Verkeer en Waterstaat het ruimtelijke ontwikkelingsbeleid en de bijdrage aan de Nota Ruimte.
Vanaf 2005 was Riedstra als directeur-generaal Personenvervoer en later directeur-generaal Mobiliteit, verantwoordelijk voor onderwerpen als Anders betalen voor Mobiliteit, de groei van het railtransport, prioritaire wegenprojecten, regionaal publiek transport, rail infrastructuur projecten en het Urgentieprogramma Randstad.
Van 2009 tot 2015 was hij secretaris-generaal van het ministerie van Verkeer en Waterstaat, dat in 2010 fuseerde met het ministerie van VROM tot het ministerie van Infrastructuur en Milieu. Daarvan werd hij de eerste secretaris-generaal.
