A estação abriu portas a 2 de fevereiro de 1913, depois de uma década de trabalhos de escavação e construção, patrocinados pela família Vanderbilt.
Além do estilo arquitetónico que apresentava, inspirado na escola de Belas Artes francesa, a estação chamou a atenção pelas inovações técnicas que introduziu. O uso de rampas em vez de escadas, para facilitar on transporte de bagagem, ou a utilização de eletricidade nas linhas rodoviárias foram algumas das novidades observadas na Grand Central Station.
Durante as primeiras décadas do século XX, a estação esteve em franco crescimento. Só em 1947, mais de 60 milhões de pessoas passaram pela Grand Central Station, cerca de 40 por cento do total da população norte-americana.
Com o advento do uso dos automóveis e os problemas económicos que afetaram a New York Central Railroad, então proprietária da estação, o edifício chegou mesmo a correr risco de ser demolido, nos anos 70. O Supremo Tribunal acabou por assegurar, após anos de disputa, a subsistência da Grand Central Station.
Uma intervenção de recuperação, nos anos 90, restituiu o esplendor à estação, que se estima atrair mais de 21 milhões de visitantes anuais. As escadarias largas, o amplo teto com a representação da esfera celestial e o famoso relógio dourado são alguns dos ingredientes para uma história de cem anos de sucesso.
Originalmente, a estação funcionava como terminal para comboios de longa distância, mas hoje está focada em serviços de passageiros e linhas de metro, com mais de 750 mil a circular diariamente no edifício. A Grand Central Station foi reconhecida no ano passado como uma maravilha da engenharia civil, devido às inovações que introduziu na época de construção. O edifício é património da cidade de Nova Iorque desde 1967 e foi classificado património nacional em 1976.