En 1128 matchs dans la LNH, Nevin a récolté 726 points (307 buts, 419 passes) et a ajouté 34 points (16 buts, 18 passes) en 84 matchs des séries éliminatoires de la Coupe Stanley.
Originaire de South Porcupine, en Ontario, Nevin a excellé dans les rangs juniors avec les Marlboros de Toronto et a effectué ses débuts dans la LNH à 19 ans avec les Maple Leafs contre les Rangers de New York le 8 décembre 1957. Il a disputé quatre rencontres avec les Maple Leafs en 1957-58 puis deux la saison suivante avant de percer la formation pour de bon en 1960-61, alors qu'il a récolté 58 points (21 buts, 37 passes) en 68 matchs. Il a terminé au deuxième rang au scrutin pour le trophée Calder remis à la meilleure recrue de la LNH.
Nevin a inscrit 15 buts en 1961-62 et 12 en 1962-63 avec les Maple Leafs, soulevant la Coupe Stanley à chacune de ces campagnes. La saison suivante, il a été acquis par les Rangers dans le cadre d'une transaction impliquant cinq joueurs le 22 février 1964, alors que les attaquants Andy Bathgate et Don McKenney sont notamment passés à Toronto.
Nevin a été le capitaine des Rangers entre 1964 et 1971 et a marqué 29 buts en 1965-66, 20 en 1966-67, 28 en 1967-68 et 31 en 1968-69. Au cours des séries éliminatoires de 1971, son but en prolongation du match no 6 en quart de finale contre Toronto au Maple Leaf Gardens a permis aux Rangers de remporter une première série depuis 1950.
Les Rangers ont échangé Nevin aux North Stars du Minnesota le 8 juin 1971. Après avoir inscrit 21 buts avec les Rangers en 1970-71, Nevin a touché la cible à 20 reprises en deux saisons avec les North Stars, qui ont perdu ses services au profit des Kings de Los Angeles dans le cadre du Repêchage intraligue à l'été 1973.
Bob Pulford, un ancien coéquipier de Nevin à Toronto, dirigeait les Kings et avait le sentiment qu'il lui restait de l'essence dans le réservoir. Nevin lui a donné raison, inscrivant 20 buts et 50 points en 1973-74 avant d'égaler son sommet en carrière de 31 buts et d'établir une nouvelle marque personnelle avec 72 points en 1974-75, aidant les Kings à établir un record d'équipe avec une récolte de 105 points. Il a vu sa production chuter à 13 buts et 55 points en 1975-76, puis il a disputé 13 parties avec les Oilers d'Edmonton dans l'Association mondiale de hockey en 1976-77 avant de prendre sa retraite.