京杭大运河始建于春秋时期。春秋战国时期开凿运河基本都是为了征服他国的军事行动服务的。例如吴王夫差命人开凿邗沟的直接目的是为了运送军队北伐齐国，公元前360年魏惠王开凿的鸿沟，基本都是为了征服他国的军事行动服务的。
隋王朝在天下统一后即做出了贯通南北运河的决定，其动机已超越了服务军事行动的目的，因为此时天下已统一。隋开运河有经济方面的动机。中国古代很长时期内，经济重心一直在黄河流域，北方的经济比南方进步。但到魏晋南北朝时期，社会发生了深刻变化。400多年的混乱使北方经济受到严重的冲击，与此相比，南方经济获得迅猛发展，成为全国经济重心。隋统一全国后，格外重视这个地区，但隋定都长安，其政治中心不能伴随经济重心的发展变化南移。因此，国家需要加强对南方的管理，长安需要与富庶经济区联系，需要南方粮食物资供应北方，不论是中央朝廷还是官僚贵族或是北方边境。同时，长时期的分裂阻断社会南北经济的交流，而随着生产力水平的提高，经济的发展到这一时期已迫切要求南北经济加强联系。
隋开运河不仅仅有经济方面的动机，也有政治方面的。魏晋南北朝时期是门阀世族大发展的时期，他们的力量相当强大。隋统一后，他们仍依恃其强大的势力，企图与中央政权抗衡。这一尖锐矛盾在江南地区一直存在，使隋政权面临严重威胁，隋统治者要实施对南方的有效统治，贯通南北运河势在必行。同时，北部边境少数民族政权对隋亦是大患，隋王朝派出大量军队驻扎边境，这些军队仅靠屯田是不够的，必须依靠江淮和中原粮饷供应。路途遥远，开凿运河才是解决问题的关键。
隋以后的历朝历代，至清朝后期，无论是大一统时期政权，还是分裂时期的政权，都注重运河的疏凿与完善，其动机无外乎经济、政治、军事等方面，充分利用运河漕运。以运河为基础，建立庞大而复杂的漕运体系，将各地的物资源源不断的输往都城所在地，成了中华大地统治者主要手段之一。运河的修复改道，其缘由亦是现实中运河常常的淤堵以及不同政权的都城位置变化。至元代京杭大运河全线贯通，明、清两代京杭大运河成为南北水运干线。
运河是由统治者主导开凿整修而成，统治者们集合庞大的人力、物力开凿运河的主要目的是为了漕运。运河是为了实实在在的漕运目的而生的，漕运是封建王朝的生命支持与动力供应系统，维持王朝的生命延续。由于海运的海盗、风浪等问题难以解决，在漕运史上运河水运是主要首选方案。开凿运河是一件名符其实的功在当代、利在万秋的伟举，对修造者而言，其功效时隔不久就能显现，给王朝带来举足轻重的影响。所以历朝历代有见识的统治者都非常重视运河的修造。

元明清时期
正在加载京杭大运河
在十三世纪末元朝定都北京后，为了使南北相连，不再绕道洛阳，必须开凿运河把粮食从南方运到北方。为此先后开凿了三段河道，把原来以洛阳为中心的隋代横向运河，修筑成以大都为中心，南下直达杭州的纵向大运河，元朝花了10年时间，先后开挖了“洛州河”和“会通河”，把天津至江苏清江之间的天然河道和湖泊连接起来，清江以南接邗沟和江南运河，直达杭州。而北京与天津之间，原有运河已废，又新修“通惠河”。这样，新的京杭大运河比绕道洛阳的隋唐大运河缩短了九百多公里。
元代开凿的重点段一是山东境内泗水至卫河段，一是大都至通州段。至元（元世祖忽必烈年号）十八年（公元1281年）开济州河，从任城（济宁市）至须城（东平县）安山，长75公里；至元二十六年（1289）开会通河，从安山西南开渠。由寿张西北至临清，长125公里；至元二十九年（1292）开通惠河，引京西昌平诸水入大都城，东出至通州入白河，长25公里。至元三十年（1293）元代大运河全线通航，漕船可由杭州直达大都，成为今京杭运河的前身。
京杭大运河按地理位置分为七段：北京到通州区称通惠河，自昌平县白浮村神山泉经瓮山泊（今昆明湖）至积水潭、中南海，自文明门（今崇文门）外向东，在今天的朝阳区杨闸村向东南折，至通州高丽庄（今张家湾村）入潞河（今北运河故道），长82公里；通州区到天津称北运河，长186公里；天津到临清称南运河，长400公里；临清到台儿庄称鲁运河，长约500公里；台儿庄到淮安称中运河，长186公里；淮安到瓜洲称里运河，长约180公里；镇江到杭州称江南运河，长约330公里。
明、清两代维持元运河的基础，明时重新疏浚元末已淤废的山东境内河段，从明中叶到清前期，在山东微山湖的夏镇（今微山县）至清江浦（今淮安）间，进行了黄运分离的开泇口运河、通济新河、中河等运河工程，并在江淮之间开挖月河，进行了湖漕分离的工程。京杭大运河作为南北的交通大动脉，历史上曾起过巨大作用。运河的通航，促进了沿岸城市的迅速发展。
通州古诗云：一支塔影认通州。燃灯塔矗立在大运河的北端，是京门通州的标志性建筑。天津北运河和南运河在天津会师，又在这里被海河一齐送入渤海。据记载，漕运发达时期，从天津到通州的北运河上每年要承载2万艘运粮的漕船，官兵12万人次，连同商船共3万艘。水道的开通使小小的直沽寨很快发展成了远近闻名的“天津卫”。镇江、扬州长江和京杭大运河的交汇处。聊城湖、河水面积占城区的三分之一，被称为“中国北方威尼斯”，在北方城市里非常少见，这其中就有京杭大运河的功劳。苏州“苏湖熟，天下足”。运河的开通，使苏州水多粮丰。现有京杭大运河苏杭段客运航线往返。淮安大运河的入淮口，运河东岸古镇码头下便是《西游记》的作者吴承恩的故居。

近现代
1842年，英军在鸦片战争中决胜的一战，就是夺取京杭大运河与长江交汇处的镇江，封锁漕运，使道光皇帝迅速作出求和的决定，不久签订了《中英南京条约》。
1853年后，太平天国占据南京和安徽沿江一带十多年，运河漕运被迫中断。战争极其惨烈，期间沿线主要城市都遭受重创，部分甚至全部焚毁。
1855年黄河改道后，运河山东段逐渐淤废。从此漕运主要改经海路。
1872年，轮船招商局在上海成立，正式用轮船承运漕粮。
1904年，漕运总督也被撤废。
1911年，津浦铁路全线通车。从此京杭大运河以及沿线城市的地位一落千丈。
解放后对运河进行了大规模整修，使其重新发挥航运、灌溉、防洪和排涝的多种作用，部分河段已进行拓宽加深，裁弯取直，新建了许多现代化码头和船闸，航运条件有所改善。季节性的通航里程已达1100多千米。江苏邳县以南的660多千米航道，500吨的船队可以畅通无阻。
1988年底建成的京杭运河和钱塘江沟通工程已将江、河、海衔接起来。
2002年，原本只负责通航的京杭大运河被纳入了“南水北调”三线工程之一，成为中国南水北调东线工程的重要环节和通道，通过它长江下游的水得以送到北部缺水的山东和河北等地。