隋朝國祚短促，大運河的作用沒有得到充分發揮，大運河充分發揮作用是在唐宋時期，就是《元和郡縣志》中所說的“隋氏作之雖苦，後代實受其利”。
唐朝把大運河視作生命線.大運河的主要作用是嘈運租調，運輸各地糧帛進京。當時都城所在的關中地區經常遭受水旱災害，糧食不足以供應京師，而淮南一帶則是全國最大的谷倉。因此，通過從揚州到洛陽的運河運送嘈糧便成為唐朝中央的中心任務之一。
唐代的大運河主要是連接揚州與洛陽的通濟渠以及山陽渎。它們把長江、淮河、黃河、渭河連在一起，東起揚州、西至長安，長達一二千千米。通濟渠在唐朝稱為汴河。是由汜水‘今河南汜水)開始，引河水入汴，東流經汴州(今河南開封)、商丘、蕭縣、徐州人泗水;再由泗水入淮。山陽渎則由山陽(今江蘇淮安)開始。經常豐堰、白馬湖、寶應、高郵、揚州入長江，基本上利用了隋代運河的故道。中唐以後，長江中下游地區成為封建王朝財政收入的主要基地，因此，保證汴河的通航成為維持唐王朝統治的關鍵所在。唐朝在汴州東面鑿了一條水，名叫湛渠，與另一水道白馬溝相連，而白馬溝又溝通了濟水，這樣，齊、魯一帶大部分郡縣的租調就可以沿著濟水、汴河運到洛陽。
此外，唐代還開有廣濟渠。上游利用唯水，下游利用蕲水，經過虹縣(今安徽泗縣〕，至淮陰北9千米入淮。

唐朝對永濟渠運輸量較大的南段加以擴展，渠道加寬到十七丈（56.7米)，浚深到二十四尺(8米)，航道更為通暢了:另外還在永濟渠兩側鑿了一批新支渠，如清河郡的張甲河、滄州的無棣河等，以便於深入糧區，充分發揮永濟渠的作用。

  大運河大大促進了沿線許多商業城市的繁榮。如揚楚運河（即隋朝的山陽渎)南端的揚州和北端的楚州(治所在山陽)，汴河上的汴州和宋州(今商丘市)，永濟渠上的涿郡等。揚州是南北商人的集中地，南北百貨的集散處。它“十裡長街井市連”，在全國州一級的城市中位列第一，超過成都和廣州，人稱“揚一益二”。注州位於汴河北段，經過濟水，東通齊魯;經永濟渠，北聯幽冀;經黃河，可達秦晉，迅速發展成為黃河中下游的大都會。後來，梁、晉、漢、周、北宋五代都建都於此，其主要原因，就是因為它是一個水運方便的繁華城市。

廣通廢後漕渠興

廣通渠在隋文帝時對緩解關中的糧食緊張發揮了很大的作用。但在隋炀帝時，政治中心由長安東移到了洛陽，關中對糧食的需求大減，於是廣通渠失修，逐漸湮廢;唐朝定都長安。起初對東糧西運的需求並不大，通過渭水每年西運幾十萬石糧食就可以了。後來，長安人口增加，官府膨脹，漕糧逐漸供不應求。於是，唐玄宗天寶元年(742年)決定重開廣通渠。新水道由韋堅主持修建，次年修成，取名漕渠。仍然以渭水為新渠的主要水源，並在鹹陽附近的渭水河床上修建了一座興成堰，以節水。同時，還引來了源自南山的沣水、浐水，增加了漕渠的水量。漕渠在憧關西面的永豐倉與渭水會合，長一百五十多千米。漕渠修成後，每年可運漕糧粟400萬石。
當時黃河中三門砒柱對運糧船的威脅仍然很大。大約在漕渠重修的同時，陝郡太守李齊物組織人力，在三門山北側的巖石上施工，打算鑿出一條新的航道，以避開艱險的舊航道。大約苦干了一年左右，鑿出了一條名叫開元新河的水道。但因石質堅硬，新河河床約深度沒有鑿夠，在黃河大水時還能通航，但是平時不能過船。三門險道的威脅仍然沒有解決。