Pierwszy budynek dworca zbudowano w latach 1844-1847, jako stację końcową Kolei Krakowsko-Górnośląskiej. Budynek w stylu neogotyckim zaprojektował wrocławski architekt Peter Rosenbaum.
W ciągu kolejnych dwudziestu lat kolej wydłużyła linię na wschód i rozbudowała cały węzeł komunikacyjny co wymusiło konieczność znacznej rozbudowy dworca.
Kosztem likwidacji ogrodów przydworcowych, w 1871 roku budynek powiększono niemal dwukrotnie, do obszaru zajmowanego obecnie. Nadano mu wówczas nieco nowocześniejszą formę architektoniczną, zachowując jednocześnie nowoczesny jak na tę epokę układ funkcjonalny. Powstała wówczas pierwsza hala peronowa.
Po kolejnych dwudziestu latach budynek ponownie zmodernizowano między innymi budując żelbetonowy tunel pod peronami (1892-93). Równolegle powstawały elementy infrastruktury przydworcowej: parowozownia z warsztatami, osiedle dla pracowników kolei, i wiadukt nad ul. Lubicz. Przebudowano też halę peronową.
Następna modernizacja miała miejsce w latach 20-tych i 30 tych XX wieku, postawiono wówczas nową wieżę wodną, rozbudowano osiedle dla pracowników kolei oraz wybudowano drukarnię kolejową.
W związku z budową linii kolejowej do Kielc i Warszawy, całkowicie przebudowano też układ torowy dworca, burząc halę dworcową i zwiększając liczbę peronów. W takiej mniej więcej postaci dworzec przetrwał przez kolejne kilkadziesiąt lat.
W związku z budową linii kolejowej do Kielc i Warszawy, całkowicie przebudowano też układ torowy dworca, burząc halę dworcową i zwiększając liczbę peronów. W takiej mniej więcej postaci dworzec przetrwał przez kolejne kilkadziesiąt lat.
W planach rozbudowy Krakowa kilkakrotnie rozważano zmianę lokalizacji dworca. Niemieccy okupanci planowali wybudować nowy dworzec na Dębnikach, a władze PRL w okolicach Ronda Mogilskiego. Wszystkie te plany nie wyszły poza fazę wstępnych projektów.
Współczesna modernizacja dworca zlokalizuje wszystkie funkcje obsługi pasażerów w nowym obiekcie podziemnym, będącym jednym z elementów nowoczesnego Zintegrowanego Centrum Transportu. Dworzec usytuowany pod istniejącymi dziś peronami połączy ze sobą podziemny szybki tramwaj, komunikację autobusową – dalekobieżną i miejską, port lotniczy w Balicach, duży parking nadziemny wraz z postojem taxi oraz centrum handlowe.
Nowy Kraków Główny będzie pierwszym w kraju podziemnym dworcem, usytuowanym pod powierzchnią torów kolejowych.