Der Bauernsohn aus Galgenen, wo er lebte, erwarb als Fünfzehnjähriger sein erstes Schwyzerörgeli.
Zusammen mit seinem Schulkollegen Pius Kamer, der ebenfalls ein Örgeli besass, lernte er nach Gehör spielen und trat an dessen Seite erstmals 1951 aus Anlass der Fasnacht im Restaurant «Pilgerhaus» in Benken vors Publikum. Von dem damals am gleichen Ort ansässigen Schwyzerörgeler Kaspar Martin Kessler, mit dem er zusammen 1962 die erste Schallplatte bespielte, und wiederum von dessen Vater (Kaspar Martin Kessler sen.
1885-1964) übernahm er die Spielart. Diese Partnerschaft bestand, wenngleich in eher loser Form, bis gegen Ende der 1980er Jahre. Vom charakteristischen Märchler Stil dieses Duetts eingenommen, gesellte sich in den 1960er Jahren Thomas Marthaler als Bassist und Klarinettist hinzu, was 1967 abermals zu einer Langspielplatte unter dem Motto «d'Märchler Musig» und darüber hinaus zu einer dauerhaften Beziehung zwischen dem auf dem Matzingerhof in Galgenen wirkenden Landwirt und dem Zürcher Wissenschafter führte.
Ein fleissigeres Musizieren erlaubte Sepp Huber ab etwa 1970 das aus ihm, Köbi Züger, Schwyzerörgeli, und Heiri Krauer, Bassgeige, gebildete Trio «Echo vom Bräggerhof». Aus dem überlieferten Melodienschatz seiner engeren Heimat fielen ihm durch den betagten Orgeler Jakob Hegner, Galgenen (*1902), und andere Veteranen wiederholt ungebräuchliche musikalische Wendungen zu, die seinen Stil prägten. Von der eigenen Erfindungsgabe Sepp Hubers, der ein leidenschaftlicher Jäger und Liebhaber schöner, alter Schwyzerörgeli war, künden rund 50 Tänze, darunter der beliebte Schottisch «Du und ich».