Der 43-jährige Amerikaner muss beim Klub des deutschen Nationalstürmers Marcel Goc nach fünf Jahren gehen.
Bylsma hatte das Team nur vier Monate nach seinem Amtsantritt zum Gewinn der Meisterschaft geführt (2009).
Die Trennung von Bylsma war die erste Amtshandlung des neuen General Managers Jim Rutherford.
Pittsburgh engagierte den 65-Jährigen als Nachfolger von Ray Shero, der nach dem Aus in der zweiten Runde gegen den späteren Finalisten New York Rangers (3:4) entlassen worden war.
Einziger Titel unter Rutherford
Die Pens hatten in der best-of-seven-Serie eine 3:1-Führung verspielt und waren damit zum fünften Mal nacheinander an einem Gegner gescheitert, der nach der Hauptrunde eine schlechtere Platzierung erreicht hatte.
Rutherford, langjähriger NHL-Torhüter, war bis April GM beim Ligakonkurrenten Carolina Hurricanes.
Unter dem Kanadier hatte der Verein 2006 zum ersten und bis heute einzigen Mal den NHL-Titel geholt.