Né le 5 décembre 1945 à Kénogami, au Saguenay, Hardy a disputé 63 matchs dans la LNH, au début des années 1970, avec les Seals d'Oakland qui sont devenus les Golden Seals de la Californie, totalisant 23 points (neuf buts).
Le grand joueur de centre a livré 210 rencontres dans l'Association mondiale de hockey (AMH), récoltant 140 points, incluant 46 buts.
Hardy racontait dans une entrevue au quotidien Le Soleil de Québec dernièrement qu'il n'avait jamais rêvé de jouer dans la LNH. Il disait qu'il s'était pincé tous les jours pour le croire quand il a eu la chance de le faire pendant deux saisons, avec les Golden Seals.
« Moi, mon plus grand rêve, c'était de jouer pour les Marquis de Jonquière, dans le junior, et pas dans la LNH », disait-il à l'aube de son 75e anniversaire de naissance.
Les Golden Seals l'ont échangé aux Canadiens de Montréal en 1971, pour un montant d'argent, parce qu'il craignait qu'il joigne les rangs de l'AMH. Ce qu'il a fait, après avoir passé une saison au sein de l'équipe-école de Halifax.
« Claude Ruel (dirigeant chez le CH) m'avait dit de ne pas signer dans l'AMH. Mais à l'âge que j'avais (26 ans), je ne pouvais pas refuser l'offre de Cleveland. Aujourd'hui, il y a des jours que je le regrette. Je me dis que j'aurais joué dans la LNH plus longtemps », admettait-il au Soleil.
Hardy a bourlingué dans une dizaine de villes pendant sa carrière de joueur, sans oublier son passage remarqué avec les Jaros de la Beauce et ses années comme entraîneur, notamment dans la LHJMQ.
Son plus grand exploit reste sa production de 208 points en une saison avec les Jaros en 1975-76, dans la Ligue nord-américaine de hockey. Il devenait le premier joueur professionnel à franchir le plateau des 200 points. Six ans plus tard, Wayne Gretzky faisait encore mieux avec 212 points à sa troisième saison dans la LNH.
Après sa carrière, celui qu'on surnommait « Gypsy Joe », en raison de son allure de bohème avec ses cheveux longs, son anneau à l'oreille et son tatouage à la hanche, a occupé un emploi d'agent manufacturier à la papetière Kruger, en plus d'être entraîneur et animateur de radio.
Il a été l'entraîneur de l'ancien attaquant Joé Juneau chez les Faucons de Lévis-Lauzon, dans les rangs collégiaux AAA québécois.
Il a dirigé les Cataractes de Shawinigan pendant quatre saisons et les Harfangs de Beauport, dans la LHJMQ.
Il a connu une carrière médiatique comme analyste à la télévision des Nordiques. Il a également animé des tribunes radiophoniques aux postes CKCV, CJRP et CHRC, ce qui l'a fait encore plus connaître à Québec.
Jusqu'à tout récemment, il participait encore à des émissions de radio dans son coin de pays.
