Der Toggenburger Ueli Stump besuchte ab dem zehnten Lebensjahr Klavierunterricht an der Jugendmusikschule Toggenburg. Bald interessierte er sich auch für das Spiel auf der Kirchenorgel und bildete sich beim Organisten Wolfgang Sieber weiter. Dank seinem Interesse für vielerlei Musik fand Ueli Stump auch den Weg in den Jazz und musizierte nach einigen Semestern an der Jazzschule Bern während 10 Jahren mit der Longstreet Jazzband.
In Volksmusikkreisen ist Ueli Stump seit vielen Jahren ein gefragter Pianist. Seit der Auflösung des legendären Handorgelduos Prisi-Kronig (1991 – 2000) sorgt er bei verschiedenen namhaften Formationen mit seinem variantenreichen Klavierbegleit für guten Rhythmus, korrekte Harmonien und klingende Überraschungen. An der Musikschule Appenzell unterrichtet er in einem Teilzeitpensum Klavier mit Schwerpunkt Schweizer Folklore.
Ueli Stump ist Mitglied der Gupfbuebe.
Zusammen mit seiner Frau Petra und dem befreundeten Ehepaar Rita Gabriel/Andi Schaub bildet er ausserdem die Formation Chlepfshit.
Bis Ende 2020 war er Mitglied der Formation "quartett waschächt".