春秋时期，吴王夫差为战争运粮开通由邗城（今扬州）至末口（今淮安河下古镇）的邗沟，沟通了长江与淮河两大水系，淮安和扬州开始兴起。隋代，邗沟成为贯穿大运河的重要部分，称山阳渎。隋唐运河泗州（在今盱眙境内）至山阳（今淮安区）段利用了天然淮河河道，航行艰难且危险，而此段河道中的山阳湾段（今淮安古淮河段），由于泗水的汇入，水流尤为迅急，更被往来舟楫视为畏途险境。 

到了宋代，淮南转运使乔维岳沿淮河右岸开凿复线运河——沙河，沟通磨盘口（今淮阴船闸附近）至古末口，使得来往船只可以绕开水流凶险的山阳湾段。从雍熙元年（984）到元丰七年（1084），复线运河分期施工，陆续完竣通航，从此“免风涛覆溺之患”。  沙河在宋代承担了重要的漕运作用，元朝后逐渐淤塞。

明代大运河沿用元代河道，全长三千余里。当时，每年需要运往北京的漕粮约四五百万石，数额巨大。明永乐元年（1403），明成祖命陈瑄为总兵官，总督漕运。当时海运会遭遇倭寇的骚扰。为了保证京师的供应和漕运的安全，把京师和南方经济中心有利地连接起来，陈瑄把疏浚大运河提上了日程。

当时江南运河到淮安后，不能直接通淮河，水运要改用陆运，经过仁、义、礼、智、信五坝后，才能入淮河而达清河，劳费十分巨大。陈瑄走访当地百姓后得知，城西管家湖西北，距淮河鸭陈口二十里的地方，是宋代乔维岳所开沙河的旧渠，宜凿为河，可引湖水通漕。

明永乐十三年（1415）春，陈瑄动用民工疏浚沙河，用五个月的时间开凿河道，由城西管家湖导水，至鸭陈口入淮。他还筑闸四处，分别叫清江、福兴、通济、惠济。清江闸位于淮水与运河交汇处，当黄河水涨时，就关闭清江闸。从此，江南漕船可以直接到清江浦，既免除陆运过坝之苦，又减少许多风险。后新庄闸淤塞，又在下游筑仁义坝（今淮安水渡口），北上漕船均经此过石码头，盘驳入黄河，再由王家营换车马，起程登通京大道。

从此，运河船只南往淮河驶向江南杭州，北通临清入卫运河直达北京，京杭运河至此全部畅通。在河的两侧兴起了一座城镇，“清江浦”成为这座城镇的名称。一个运河名城由此诞生，史称南船北马，九省通衢。陈瑄开埠，掀开了清江浦的辉煌历史。