Schon als Kind kam Rudolf Piehlmayer mit Musik in Berührung; Hausmusik zu machen, war eine Selbstverständlichkeit in der Familie des 1961 in Straubing Geborenen. In der Schule fand er dann mit der Klarinette zu „seinem“ Instrument, das „der Musik Atem gibt“ und „der menschlichen Stimme sehr ähnlich ist“. Diese enge Verbindung baute er mit einem anschließenden Studium an der Münchner Hochschule für Musik aus. Vier Jahre als Soloklarinettist bei den Berliner Symphonikern schlossen sich an diese Zeit an.

Als wichtigste Säule seiner Ausbildung folgte in München ein Dirigierstudium bei Prof. Hermann Michael.

Auf dieser breitgefächerten musiktheoretischen und praktischen Basis konnte er seine berufliche Laufbahn aufbauen: Zunächst als Solorepetitor und des Weiteren als erster Kapellmeister am Staatstheater Regensburg, dann am Theater St. Gallen und als Generalmusikdirektor am Staatstheater Augsburg. Seit 2011 arbeitet er international als freier Dirigent. 

Seine Engagements reichen von der Nationaloper in Oslo über die Musashino Academia Musicae Tokyo bis zum Orchestre National de Bretagne, der Opéra Angers/Nantes und der Opéra Rouen Haut Normandie, deren ständiger Gastdirigent Rudolf Piehlmayer seit 2014 ist. 

Als erster ständiger Gastdirigent arbeitete er lange Zeit beim Gewandhausorchester an der Oper Leipzig. Mit den Nürnberger Symphonikern besteht eine langjährige Zusammenarbeit: Als Gastdirigent begleitet Rudolf Piehlmayer das Orchester bei Konzerten sowie bei Aufnahmen von CDs und Einspielungen beim Bayerischen Rundfunk - zuletzt Ende 2023 mit der Ersteinspielung des Passacaglia Violinkonzerts von Hans Koessler. Im Mai 2024 folgte die Ersteinspielung von Koesslers Symphonie h-moll. 

Seit 2021 arbeitet Rudolf Piehlmayer als Reservist im Militärmusikdienst der Bundeswehr und leitet seit August 2022 das Gebirgsmusikkorps.

Insgesamt umfasst das breitgefächerte Repertoire von Rudolf Piehlmayer Werke der Klassik bis hin zur zeitgenössischen Musik.

Ein besonderes Faible hat er für die Lebendigkeit italienischer Kompositionen und unkonventioneller Aufführungsformate und erreicht damit das Publikum auch abseits von Opernhäusern und Konzertsälen. 

Im Miteinander mit dem Orchester geht es ihm darum, Musik lebendig werden zu lassen. „Jede Note muss leben, Musik soll berühren“, so das Credo von Rudolf Piehlmayer, der sich ein Leben ohne Musik nicht vorstellen kann. Hätte er die Wahl, er würde seinen Weg wieder genauso gehen.