Historia Gumnisk - najpierw wioski pod Tarnowem, później części miasta, sięga XV wieku. Najważniejszą budowlą był tu od końca XVIII wieku pałac rodziny Sanguszków - ostatnich właścicieli Tarnowa z ogrodami, parkiem, zbiornikiem wodnym, później również oranżerią. W parku Sanguszków znajduje się najcieplejsze miejsce w Tarnowie, tutaj także oglądać można najgrubsze drzewo w mieście.
Podtarnowska wieś Gumniska, której historia liczy ponad 500 lat przez kolejne wieki stanowiła własność rodów magnackich będących również właścicielami Tarnowa. Wreszcie pod koniec XVIII wieku Sanguszkowie, ostatni właściciele miasta, wybudowali w Gumniskach pałac, który po kolejnych przebudowach w latach trzydziestych XIX wieku oraz na przełomie wieku XIX i XX uzyskał dzisiejszy kształt. Od początku istnienia pałacu znajdował się po jego południowej stronie ogród, prawdopodobnie w stylu "holenderskim", nie wiadomo jednak dokładnie jak wyglądała pierwotnie budowla i otaczający ją teren.
Książę Władysław Sanguszko po rozbudowie pałacu w XIX wieku założył po jego północnej stronie rozległy ogród w stylu angielskim ze zbiornikiem wodnym, którego brzegi łączyły drewniane mostki. Ogród w stylu angielskim charakteryzował się zerwaniem z regularnością i prostymi liniami ogrodu barokowego i nawracał do naturalnych kształtów krajobrazu. Na drzewostan parku składały się przede wszystkim lipy, klony, graby, dęby, jesiony, wiązy, buki, świerki i sosny. Na niektórych drzewach do dziś zachowały się tabliczki z nazwami gatunków. Właśnie w pałacowym parku rośnie najgrubsze dziś drzewo w Tarnowie - platan klonolistny.
Po południowej stronie pałacu przetrwał ogród barkowy, tu także, od strony zachodniej znajdował się drugi ogród - w stylu włoskim. W pobliżu pałacu utworzono również ogrody warzywne, które zlikwidowano na początku XX wieku. Elementem ogrodu były także klomby kwiatowe zlokalizowane przede wszystkim przed frontem pałacu. Pod koniec XIX wieku drzewami obsadzono też drogę po wschodniej stronie pałacu noszącą dziś nazwę ulicy Błotnej.
Kolejne zmiany w wyglądzie otoczenia pałacu pojawiły się już w okresie międzywojennym, kiedy to zbudowano tor wyścigowy, ujeżdżalnię i wybiegi dla koni. Stworzono szklarnie, w których uprawiano kwiaty, po zachodniej stronie pałacu powstał sad oraz szkółka drzew owocowych i ozdobnych, w oranżerii hodowano rośliny egzotyczne.
Na początku lat trzydziestych pojawiła się po południowej stronie pałacu figurka Merkurego i sporych rozmiarów fontanna. Obok znajdowała się kręgielnia i kort tenisowy.
Po II wojnie światowej w pałacu otwarto szkołę ogrodniczą, część terenu dawnego parku przejęła PKS, inna jego część zniknęła w wyniku poszerzenia biegnącej po północnej stronie pałacu ulicy. Zlikwidowano stajnie, szklarnie i oranżerię, zbudowano natomiast internat i blok mieszkalny. Z terenu obejmującego blisko 40 hektarów dziś pozostało kilkanaście.
Obecnie park to miejsce spacerów tarnowian, sesji zdjęciowych organizowanych przez nowożeńców oraz, zimą, zjazdów saneczkowych i narciarskich na północnym stoku wzgórza pałacowego. Warto również pamiętać, że południowa część parku to z kolei najcieplejsze miejsce w Tarnowie, a jak twierdzą niektórzy, nawet w całej Polsce. Na południe od pałacu, przy ulicy Lotniczej, znajduje się również lądowisko dla małych samolotów, gdzie odbywają się latem kolejne edycje "pikników lotniczych".
