Der zweifache österreichische Meister (Sprint 1999, Gundersen 2005) startete für den TSU Sankt Veit im Pongau und verzeichnete im Weltcup insgesamt sechsundzwanzig Top-10-Plätze. Seine besten Weltcupplatzierungen erreichte er 2004 mit dem zweiten Platz im Sprint in Trondheim und 2003 mit dem dritten Rang im Einzelbewerb im Val di Fiemme.
Seine größten Erfolge feierte Gruber bei den Olympischen Winterspielen 2006 in Turin und bei der Nordischen Skiweltmeisterschaft 2003 im Val di Fiemme, wo er jeweils die Goldmedaille im Teamwettbewerb gewann. Mit dem österreichischen Team gewann er auch noch die Bronzemedaille bei den Olympischen Spielen 2002 in Salt Lake City und die Bronzemedaille bei der Nordischen Skiweltmeisterschaft 2005 in Oberstdorf. Eine Einzelmedaille bei Großereignissen war ihm nicht vergönnt, mit dem fünften Rang im Sprintbewerb und dem sechsten Platz im Einzelbewerb erreichte er bei der Weltmeisterschaft 2005 aber hervorragende Resultate.
Am 27. September 2007 erlitt Gruber beim Training in Pragelato einen Kreuzbandriss. Nach mehreren Comebackversuchen, die seinem Knie aber schadeten, erklärte er am 1. April 2008 seinen Rücktritt vom Profisport.