1260年元世祖忽必烈即汗位，1271年定国号为大元，改中都（北京）为大都定为国都。此时的大都和华北一带经长期战乱，经济萧条，无法养活大都百万人口和京畿大量驻军，一切都需南方运来。史载“元都于燕，去江南极远，百司庶府之繁，卫士编民之众，无不仰给江南”。这样，无论从政治或军事角度来看，重新开通南北运河已势在必行。
忽必烈即汗位的第三年，尚未正式立国就任命汉族水利专家----31岁的郭守敬“提举诸路河渠”。元大将伯颜在南征南宋期间，已深感水路对军事和经济的重要性，从而“遍访自江都达大都河道”。灭南宋之后，在伯颜等重臣支持下，忽必烈命郭守敬“查勘宋金以来汶、泗相通河段”，以备重开运河。
元运河初开，运量不是很大，管理工作也较零散。元朝对运河和全国水利的管理从属于工部的都水监，三品官。到会通河竣工后，始设都水分监于景德镇（张秋），以后又设行都水监于济宁和水监于济宁和郓城，管理徐州至临清运河航道和河南、山东境内黄河。除闸上有闸夫之外，也动用部分军队管理运河，维护秩序。
当时隋炀帝开的通济渠由于黄河南泛全线淤塞，恢复通济渠已非常困难，同时京都已东移至北京，没有必要绕个圈在途经开封、郑州一带，如果改徙山东，运河就变成一条直线，距离最近。在此背景下才把目标移向济宁。那时运河南端从杭州到淮安，隋唐运河基本完好，淮安以上原古泗水运道虽已被黄河侵占，但船可进入黄河，“借黄行运”到徐州后再逆古泗水运道至鲁桥，还可沿汶、光水道至济宁。在北方有隋唐时开的永济渠（后称御河），元时新乡以下一直畅通可达天津。所以只要解决济宁向北至永济渠约200公里运道，即可从北京到杭州了。
