La carrière d'alpiniste de Jean-Joseph Maquignaz commence de manière saisissante : il fait partie de l'équipe de Jean-Antoine Carrel, engagée dans la recherche d'une voie italienne au Cervin, en concurrence avec l'Anglais Edward Whymper, qui poursuit la première ascension absolue.
Le couronnement de sa carrière, qui lui vaut une renommée impérissable, est la conquête du Dente del Gigante, le 28 juillet 1882, à la tête d'une cordée "familiale" composée de son fils Baptiste et de son petit-fils Daniel. Le lendemain, ils font le bis, mais en compagnie d'une importante délégation de la famille Sella.
Maquignaz est aussi un précurseur de l'alpinisme hivernal, et compte plusieurs premières ascensions " hors saison " : la Punta Dufour, le Grand Paradis (tous deux avec Vittorio Sella), et la traversée du Mont Blanc, en 1888, à près de 60 ans.