Les travaux de démolition de la forteresse commencent en 1868 ; l'année suivante, le manège de cavalerie militaire est désaffecté. Le bâtiment reste cependant debout jusqu'en 1880, année où il est abattu. Il est décidé de transformer le nouvel espace libéré en une vaste place, aérant le quartier, longée à l'ouest par un nouveau boulevard : le boulevard Jacques Bertrand.