Ce technicien, bien connu du championnat de ProA, retrouve Cholet où il a évolué en tant que joueur lors de la saison 88-89 (N1A). Il faisait partie de l’équipe qui a battu le Real Madrid en Coupe des Coupes.

Sa carrière de joueur se poursuit à Chalon-sur-Saône où il monta de N2 en Pro B. Il devient entraîneur lors de la saison 1995-1996, où il glane le titre de Champion de France ProB et accède à la ProA. En 2001, sous ses ordres, Chalon disputera la finale de la Coupe Saporta. Il restera jusqu’en 2002 en Bourgogne, avant de prendre la direction de l’ASVEL.

A la tête de l’équipe championne en titre, Philippe HERVÉ hissera sa formation en finale de ProA en 2003, mais s’inclinera face au rival palois.

En 2005, Philippe HERVÉ prend alors la direction d’Orléans, où il écrira la plus grande page de sa carrière d’entraîneur. Il prend les rênes de l’équipe qui évolue alors en ProB. Une première année couronnée de succès puisque sous ses ordres, Orléans remporte le titre de Champion de France ProB et accède à la ProA. Il restera neuf années dans le Loiret avec notamment plusieurs participations en Coupe d’Europe, deux finales de Semaine des As et une finale de Pro A. Sur le plan personnel, il est honoré du titre de meilleur entraîneur de ProA de la saison 2008-2009.

En avril 2015, il devient entraîneur du CSP Limoges, où il remportera le titre de Champion de France ProA. La saison suivante, il quittera le club en janvier 2016.