Der 1934 ebenfalls in Weimar geborene Gülke studierte Cello, Musikwissenschaft, Romanistik und Germanistik an der Hochschule für Musik Weimar sowie den Universitäten Jena und Leipzig. Er arbeitete danach unter anderem als Dirigent an den Theatern in Rudolstadt, Stendal, Potsdam und Stralsund sowie an der Staatsoper Dresden und der Staatskapelle Weimar.
Nach einem Gastspiel in Hamburg 1983 blieb er in der Bundesrepublik Deutschland. Hier wirkte er unter anderem als Generalmusikdirektor der Stadt Wuppertal und lehrte an der Staatlichen Hochschule für Musik Freiburg sowie der Universität Basel. Von 2011 bis 2014 war Peter Gülke Präsident der Sächsischen Akademie der Künste, von 2015 bis 2020 Chefdirigent der Brandenburger Symphoniker.
Er erhielt zahlreiche Preise und Ehrungen wie den Karl-Vossler-Preis, das Österreichische Ehrenkreuz für Wissenschaft und Kunst I. Klasse, den Weimar-Preis, den Pour le Mérite für Wissenschaften und Künste sowie das Bundesverdienstkreuz.
Brandenburgs Kulturministerin Dr. Manja Schüle zeigt sich betroffen vom Tod des Dirigenten und Musikwissenschaftlers : „Peter Gülke war die Verkörperung der Kultur- und Klassikerstadt Weimar – möglicherweise weil sein Ururgroßvater Christian August Vulpius war, der Schwager Johann Wolfgang von Goethes. Vor allen Dingen war er aber einer der Großen unter den deutschen Dirigenten, Musikwissenschaftlern und Autoren. Ein intellektueller Grenzgänger zwischen musikalischer Praxis und Theorie, ein leidenschaftlicher Vermittler von Musik. Einer, der musikalisch in der ganzen Welt zu Hause war – unter anderem mit Gastspielen in Europa, den USA und Japan. Und der sich dennoch in seinen späten Jahren der Aufgabe verschrieb, die Brandenburger Symphoniker als Chefdirigent zu übernehmen und maßgeblich zu prägen. Und der noch vor zwei Jahren im Rahmen des Choriner Musiksommers als ‚Artist in Residence‘ mehrere Konzerte dirigierte. Auch wenn es glücklicherweise zahlreiche Einspielungen seiner Konzerte gibt – sein Ton wird fehlen.“
