C'est au XVIe siècle que naît, pour la première fois, l’idée de relier Charleroi et Bruxelles par un canal qui desservirait les exploitations houillères. Pourtant, il faut attendre le xix° siècle pour voir aboutir ce vieux rêve.

En 1827 débute la construction d’un premier canal : né des travaux de l'ingénieur Jean-Baptiste Vifquain et accessible aux bateaux de 70 tonnes — les fameux sabots ou baquets de Charleroi —, il compte cinquante-cinq écluses de Dampremy au canal de Willebroek et est inauguré en 1832.

Pourtant, en 1841 déjà, le canal révèle les limites d'un gabarit devenu trop étroit. Et, répondant aux pressions du monde industriel, le ministère des Travaux publics confie à Vifquain l’étude de sa modernisation au gabarit de 300 tonnes. Après quelques améliorations consenties sur le versant de la Sambre, la loi dite des Canaux houillers, en 1879, entérine la décision de moderniser le canal sur tout son parcours. Il faudra pourtant attendre 1933 pour voir enfin s'achever ce programme. Mais, au fil des ans, le contexte économique évolue, et des exigences nouvelles se font clairement entendre.

C’est ainsi qu'en 1919, on décide d'adopter un gabarit plus large — 600 tonnes — en aval de Clabecq pour encourager la création de nouvelles industries en développant le port de Bruxelles et pour permettre une évacuation efficace des crues de la Senne. Le canal modernisé compte trente-huit écluses et est pleinement opérationnel en 1936.

En 1947, dans le cadre de son programme de modernisation du réseau belge des voies navigables, Gustave Willems entame la mise à gabarit du canal à 1 350 tonnes. L’objectif recherché est alors de répondre à la crise de l’industrie lourde en Hainaut et d'intégrer la voie d'eau dans un réseau de voies navigables homogène, répondant à un gabarit européen. Ce nouveau programme de modernisation s’achève en 1968 avec la mise en service du plan incliné de Ronquières.