因為有元一代的大力改造，運河變得越來越直，明朝在此基礎上又對運河進行了進一步疏通，大運河的水運價值迅速提升。大運河貫通後，為了確保其隨時暢通，對運河航道的治理維護就變得越來越重要了。

景泰二年（1451年），明朝的漕運出現了問題，無法按時為京城運輸漕糧。有鑑於此，中央決定設定漕運總督一職，專職管理漕運。

明成化七年（1471年）十月，鑑於運河河道淤塞，導致漕運受阻，朝廷便委任刑部左侍郎王恕兼任河道總督，駐地山東濟寧，專職負責運河的治理維護。從此，漕運總督和河道總督共同管理運河事務。

不過，多數時間裡，明代的漕運總督和河道總督都不是固定官職，只是有需要時他們才作為中央代表出京督漕或治河，帶有一種臨時派遣的性質。

但漕運總督和河道總督的收入並不是很高，每年的俸祿只有180兩銀，年養廉銀稍微多點，大概在一萬五千兩到三萬兩之間。

漕運總督下設巡漕御史、管糧同知等官職，河道總督至乾隆以後，定為道、廳、汛三級管理機構，各級下設河道、通判等官職。兩總督所轄軍隊分別稱為漕標與河標。

甚至有時河道總督可以代理漕運事務。但同時由於運河情況複雜，治理維護殊為不易，所以河道總督落馬的風險係數也比漕運總督高。 到咸豐五年（1855年），由於黃河變道山東入海，導致大運河受阻嚴重，航運價值衰落，漕運總督和河道總督就自然沒有存在的必要了，之後被陸續取消職位。