Miasto zostało założone w 1340 dla kolonistów ze Śląska i Niemiec. Zasadźcą był Hanco Dives, syn Jana Bogacza. Grybów ponowne otrzymał prawa miejskie w 1488. Był siedzibą starostwa niegrodowego, ośrodkiem handlowo-rzemieślniczym (głównie sukiennictwo). Istniała tu m.in. szkoła Wita Stwosza i może tutaj powstała słynna figura tzw. Madonny z Krużlowej. W czasie potopu szwedzkiego doszło do bitwy pod Czerwoną Górą (obecnie Orlik Grybowski nad rzeką Białą). Miasto było wielokrotnie niszczone nie tylko przez Szwedów, ale też w 1657 przez Węgrów.
Od XVII wieku odnotowuje się upadek gospodarczy miasta. W czasie konfederacji barskiej, latem 1768 powstańcy spychani przez wojska rosyjskie znaleźli się kilkadziesiąt kilometrów od Grybowa. W latach 1772–1918 Grybów znajdował się w zaborze austriackim. W 1863 w Grybowie powstało nielegalne biuro przyjmujące i ekwipujące ochotników udających się do powstania styczniowego, głównie uczniów gimnazjalnych. W okresie powstania styczniowego i później w latach 1866–1867 bywał w Grybowie Artur Grottger, (przyjeżdżający do swojej narzeczonej, Wandy Monné), a około 1900 przybyli do Grybowa Stanisław Wyspiański i Józef Mehoffer.
Neogotycki kościół pw. św. Katarzyny wybudowany w latach 1909–1914