La gare est érigée entre 1865 et 1874, la guerre franco-allemande de 1870 ralentissant sa construction. Elle est inaugurée quelques mois seulement après la mise en service de la liaison directe Charleroi-Bruxelles via Nivelles.

De style néo-classique et avant-gardiste par l’utilisation de matériaux nouveaux comme le fer et le verre, son architecte est sans doute l'auteur également de l'ancienne gare de Liège-Guillemins, qui offrait de nombreuses ressemblances avec celle de Charleroi-Central.