La gare est érigée entre 1865 et 1874, la guerre franco-allemande de 1870 ralentissant sa construction. Elle est inaugurée quelques mois seulement après la mise en service de la liaison directe Charleroi-Bruxelles via Nivelles.

A l'arrière de la gare se situaient deux grandes halles vitrées, augmentant le côté monumental de la gare principale de la ville. Les trains en provenance de Bruxelles arrivaient aux voies 1 à 3 situées dans la gare latérale.

Ces halles seront démolies dans les années 1960.