金、元、明、清时期，是河南社会历史发展的中衰时期。由于元、明、清三朝均建都北京，河南不再是全国的政治、经济和文化中心，特别是经历了金、元时期的残酷掠夺和连续不断的战争破坏，运河淤废、水患日益频繁，黄河夺淮达700年之久，水利时兴时废，水害深重，仅在某些时候，开展过一些治理活动。
    金章宗明昌五年(公元1194年)，“河决阳武(今原阳县境内)故堤，灌封丘而东”，黄河改道夺淮，河南首当其冲，灾难深重。元朝和以明清两代统治者力保漕运，推行“抑河南行”的方针，一直到清咸丰五年(公元1855年)黄河在今兰考铜瓦厢决口，黄河再次掉头北去，改道由山东利津入海为止，黄河夺淮近700年之久。
    元朝建都大都(今北京)，把大运河改建为南北向，直通京都，河南汴渠漕运，逐渐废弃。元代黄河决溢频繁，自至元九年(公元1272年)到至正二十六年(公元1366年)的95年中，就决溢40年，有时1年就决口十几处或几十处。随后，几乎年年决溢，“塞河之段，无岁无之”。据资料分析，自宋端平元年(金天兴三年，公元1234年)蒙古军在开封以北寸金淀决河以灌宋军以后，黄河可能由封丘南、开封东至陈留、杞县分为三股；一股经鹿邑、亳州等地会涡水入淮，一股经归德(今商丘)、徐州、合泗水故道南下入淮；一股由杞县、太康、经陈州会颍水至颍州南入淮。至元二十三年(公元1286年)，“河决开封、祥符、陈留、杞县、太康、通许、鄢陵、扶沟、洧川、尉氏、阳武、延津、中牟、原武(今原阳县)、睢州15处”。元大德元年(公元1297年)黄河在杞县蒲口决口，黄水直趋200里，至归德(今商丘)横堤以下和古汴水合流入淮河。至正四年(公元1344年)，黄河在白茅口(今山东省曹县境)决口，泛滥7年，到至正十一年四月(公元1351年)，朝建才派贾鲁治河。贾鲁这次治河“有疏、有浚、有塞”。整治、疏浚旧河道；筑塞小口，培修堤坊，从“归德府哈只口至徐州路三百余里，修完缺口一百七处”；用沉船法堵塞白茅决口，使河归故道。共动用民工15万人，军兵2万人，总工用“中统钞百八十四万五千六百三十六锭有奇”，动用了大量的人力、财力，至当年11月竣工。后世评价贾鲁治河，是“贾鲁修黄河，恩多怨亦多，百年千载后，恩在怨消磨”(《行水全鉴》引蒋仲舒：《尧山堂外记》)。从当时情况看，聚众兴工，劳役太重，不顾民工死活，一心急于求成，招致民怨，应是封建统治者的制度所决定。但作为这次工程的主持执行者，贾鲁“能竭其心思智计之巧，乘其精神胆气之壮，不惜劬瘁，不畏讥评”(《至正河防记》)，临危不惧，当机立断，一举堵合了泛滥七年的决口，是有贡献的，也不失为是技术创新的治河专家。
    明代建都北京，黄河夺淮持久，河道极不稳定，在河南地区呈多支分流状态，黄、淮、运交织在一起，为了保运，在黄河治理上实行“抑河南行”的方针，造成黄河长期夺淮的局面，为河南带来了深重灾难。明代前期，河患多发生在河南境内，尤其集中于开封上下，决溢次数极为频繁。据不完全统计，仅在《明实录》、《明史》和《明史纪事本末》中，洪武至弘治年间(公元1368至1505年)有决溢记载的年份就有59年。其中十之八、九都在兰阳、仪封以上的河南各地，仅开封(包括祥符县)一地决溢的记载就有26年之多。为使运道久安，刘大夏又在弘治八年(公元1495年)正月堵塞黄陵岗(今兰考)、荆隆口(今封丘)等口门7处。筑二堤，一自河南胙城起，经滑县、长垣、东明、曹州、曹县抵虞城的长堤共360里；另一起封丘于家店，历铜瓦厢、陈桥、抵小宋集，共160里。前后二堤相翼，决溢之患，从此稍息。
    明代的清河灌区，位于河南省东南部的固始县境内，利用史河为源流，是在古代期思和茹陂灌溉工程的基础上修复和发展起来的。引水口在固始县黎集，在史河上打坝，凿开东岸的石咀头引水向北，称为清河；又在史河下游，自东岸开渠引水向东，称为湛河；清河尾在湛河中部相会。由于清河长90里，湛河长40里，合计百余里，故又有“百里不求天”灌区之称。灌区遍布陂塘；灌溉用水由渠入陂，由陂入田，是一种渠塘结合长藤结瓜型的灌溉工程。明代对清河和湛河上的4座水闸先后都进行了重修。均济闸是引水口的节制闸，引水流量的大小靠均济闸节制；中闸是清河上重要控制建筑物，关闭中闸，可将清水灌入下胜湖和石梁堰，还可以将清河中过剩水量，通过石梁堰河口排入泉河。清河两岸其它34处陂塘依靠清河上临时筑坝节节拦水，次第蓄水。当时90里长的清河，将30多个陂塘轮灌一次，为一个月。当时灌区设立了管理机构，负责水闸和土坝的启闭和管理。在中闸的石碑上明确规定每座土坝闸门启闭时间。在湛河上有溥惠、匀利两座水闸，灌区内共有陂塘16处。湛河一方面直接从史河引水，另一方面承受清河的尾水、退水，用两座水闸抬高水位，引水入湖堰陂塘。清河灌区引水口的选择和工程布置以及管理，都是非常科学的，是劳动人民聪明智慧开发水利的象征。新中国成立后，1958年在古老的石咀头引水口下游修建了永久性的梅山灌区渠首枢纽工程，沿用至今，已成为梅山灌区的组成部分。
    明朝末期，河南发生了一次大面积连续几年的特大旱灾和一次人为造成的水灾。崇祯十一年至十四年(公元1638～1641年)，发生连续4年大面积的特大干旱，旱情、灾情遍及全省，有70余县为重灾区，以黄河南、北两岸最为严重，河南各地井河皆竭、濠沟扬尘，飞蝗蔽天，瘟疫流行，野无青草，田无人耕，人饥相啖。罗山“民饥死者十之五六，流亡十之三”；内黄“人死七分”；濮阳“人死过半”；史藉记载“人相食”的有60余县。1641年，李自成进入南阳，连下宜阳、偃师、密县、宝丰，大旱饥民数万人归义军，杞县人李岩，永城人宋献策，卢氏人牛金星等投靠李自成。崇桢十五年(公元1642年)，李自成起义军围攻开封，明军决黄河堤，水灌起义军军营，起义军亦另决一口，二水会流冲灌开封，造成开封全城覆没，几十万人遭受灭顶之灾的悲剧。由于这两次水旱灾害造成的动乱，加速了明王朝的灭亡。
    清代建都北京，漕运“仰给江南”，水利仍以保漕为先决条件。在康熙、乾隆盛世时、重视水利，发展农业。康熙皇帝曾“以三藩及河务、漕运为三件大事，夙夜廑念，曾书而悬之宫中柱上”(见《清圣祖实录》)作为座右铭。由于明末清初连续40多年的战乱，黄河堤防失修，在顺治执政的十八年(公元1644～1661年)中，见于《清史稿·河渠志》的决口即有八、九年之多。其中数次北决，漕运受到很大影响。顺治九年(公元1652年)，河决封丘大王庙，屡堵屡决，溃水从长垣趋东昌(今聊城)，阻滞运道。顺治十一年(公元1654年)，黄河复决大王庙，于顺治十三年(公元1656年)清廷乃下决心堵口，仍挽河南行，走明代故道。顺治十四年，吏部左侍郎朱之锡总督河道后，为整治河工，曾数次上疏，陈述利害，提出河政十事，对河工夫役、料物，职守及河工弊端等等，作了详细阐述。在他治河期间，连续堵了祥符和山阳、阳武、陈留等决口，做出了一定的贡献。乾隆二十六年(公元1761年)七月，黄、沁河同时并涨，河南武陟、荥泽、阳武、祥符、兰阳南北两岸共决口15处，其中中牟杨桥决口达“数百丈”，大溜直趋贾鲁河，由涡河入于淮，开封、陈州、商丘、安徽之颍、泗等州县被淹，由大学士刘统勋督办堵塞。
    在治淮方面，乾隆二十二年(公元1757年)夏大水，开封、归德、陈州和汝宁府因积涝成灾，“计漫潦地界不下数百里”，“汪洋弥望，室庐倾塌，禾稼荡然”，乾隆帝慑于荒极民反，遂拨银运粟，兴修水利，拯救民困，并派侍郎裘日修、巡抚胡宝？前往灾地视察积潦受灾之由，提出疏浚方法，于当年8月开工，以工代赈，至次年雨季前告成，河流顺畅，耕种以时，当年获丰收。胡宝？为纪念这次治水的成就，把疏浚河道、沟渠的深度、宽度合绘一图，镌之以石，树立永城隋堤上，名曰《开归陈汝四府水利图碑》，现存商丘博物馆。这次疏浚河道的方法是：“……先开干河，为受水之地；继开支河，以引入干河；继开沟洫，以引入支河”。河南巡抚胡宝？对于干支河治理后，对如何进行开挖沟洫以及岁修管理，以扩大巩固这次治水效果历久不衰，与钦差裘日修共同商度，认真总结实践经验，制订管理规章，奏陈《河渠经久事宜》八条，立论周详，奉御批“如所议，永远实力行之”。第一条“水利宜专责成也”，主旨是水利必须年年修，年年管，官民要分工负责，具体规定了府、道、州、县各级官吏对水利的职责。第二条“各河岁修宜筹也”，对筹划岁修经费，“干支各河自应每年酌用民力，照业食佃力之例修浚、培筑”，“工段绵长民力不继者，再请旨动帑”，规定岁修以群众自办为主，工程大的再国家补助。第三条“民田沟洫宜开也”，说明开沟洫的重要性和必要性。第四条“小港废渠宜复也”；第五条“桥闸涵洞宜整也”；第六条“堤堰宜防盗挖也”；第七条“河道阻水宜禁也”；第八条“洼地宜加酌办也”，规定了岁修、管理的具体事项。这是一次豫东平原河道成功治理的实践经验，很有借古鉴今的意义。
    清嘉庆、道光年间，值得一提的是固始人吴其浚著《治淮上游论》，吴氏嘉庆十二年(公元1807年)进士，殿试一甲一名(状元)，历任官迹半天下，精研植物学，于道光元年至九年(公元1821～1829年)，连遭丁忧在固始家居，注意调查研究，认真考察水灾之由，著有《治淮上游论》，指出“治河必先治淮，而治淮必先治淮之上游，此其枢要，不在江南(今江苏、安徽之地)，而在安徽之境”。提出利用河南入安徽境淮河干流两侧湖泊洼地作闸坝控制以滞蓄洪水的治淮方略。认为河道对洪水不能尽容者，而利用天然湖泊洼地分容之，主张蓄、滞并用以减灾，以解决淮河干流洪水来量大而泄量小的矛盾。他远见卓识，认为他的主张虽当时办不到，但要“姑存此文，以俟将来”。预见将来有所用。吴氏主张，蕴育着“蓄泄兼筹”的治淮方略，补充了当时人们对治水从“疏”与“堵”长期争论中的策略思想，难能可贵。
    清咸丰五年(公元1855年)，黄河在河南铜瓦厢决口，铜瓦厢在兰阳县黄河北岸(今兰考县东坝头西)。黄河西来，到这里漫转东南，是明清两代河防上的一个险要处所。咸丰五年农历6月中旬，黄河发生了大水，18日，兰阳铜瓦厢三堡以下的无工堤段，“登时塌三、四丈，仅存堤顶丈余，……”，19日，这段堤防终于溃决，到20日，全河夺溜。铜瓦厢决口之后，黄河主流先流向西北，淹及封丘、祥符两县村庄。而后折转东北，淹及兰、仪、考城、长垣等县村庄。黄河决铜瓦厢夺大清河入海之后，在相当长的一个时期里，清朝统计者拿不定治理的方案，有人主张要堵复决口，挽河回淮徐故道，而更多的人则坚持因势利导，就新河筑堤，使之改行山东。从铜瓦厢决口之日起，一直到光绪前期，都是争论不休。从同治末年开始山东境内的沿黄堤防在原有民埝的基础上，才陆续修建起来。此外，这期间还筑有菏泽贾庄以上至河南考城的南岸大堤，北岸补修的金堤也“一律完竣”，在光绪十年(公元1884年)，新河堤防才较为完整起来。铜瓦厢决口，使黄河长期南夺淮河入海的局面归于终结。
    清道光以后，随着国家逐步沦为半殖民地半封建社会，加上帝国主义的掠夺，政治腐败，水利更加荒废。光绪元年至四年(公元1875～1878年)全省发生连年特大旱灾，以黄河及伊洛河沿岸和豫北等63个县最为严重。灵宝“人多相食，灵邑户口损三分之二”；巩县“饥莩盈野，流亡载道，村落为墟”；“洛川不渡，伊水不流、黄河不涉，赤地千里，饿死逃亡，道路相望。”伊阳、洛阳、济源、汝州、西平、宁陵、安阳等县饥民纷纷武装抢粮，豫北有白莲教首武陟人朱登，3日间组织饥民数千人持械入山，在修武、道口、清化一带，堵塞漕运要道，抗拒官军，震惊朝廷，岌岌可危。
    近代以来，引进西方水利科技，民国前期，河南建立水利机构，水利勘测、水利教育开始发展。明、清时代，河南地方水利和黄河修防，采用中央专职河官与地方官吏相结合的治理体制。1915年1月6日，国家水利局制定颁发了《各省水利委员会组织条例》。北洋政府总统通令各省设立水利分局，7月，巡按使公署宣布成立河南省水利委员会。1920年，水利委员会改组为河南省水利分局。1927年5月，河南省政府成立，冯玉祥任河南省主席。1919年4月，顺直水利委员会在河南省境内黄河上，设立陕州水文站(今陕县)，测验项目有雨量、水位、流量、含沙量，它是黄河上最早设立的两个水文站之一(另一个是山东省境的泺口水文站)，也是河南省境内设立最早的水文站。1919年11月，江淮水利局在河南省境内设立洪河口水文站和三河尖水位站。1929年3月，省府创办河南省建设厅水利工程学校，1931年改称为河南省立水利工程专门学校，学制由3年改为5年，前3年为附属高中，后两年为专科。1943年，扩建为水利专科四班，1946年下半年，并入河南大学农学院。1928年冯玉祥在河南大力提倡打井，当年完成400余眼。1929年导淮委员会成立后，在潢川、淮滨、固始3县修有低矮生产堤。1929年，宛属13县民团司令别廷芳修建石龙堰，位于西峡县鹳河上，东干渠首闸两孔，单孔过水能力3m³/s。并建有莲花寺岗水电站，装机3台，计400千瓦。为全省首建的水电站。别廷芳还组织群众治河改地，保护耕地，为总结经验，还编写《治河改地》一书，详述治河方法和保护耕地的措施。
    20世纪30年代前期，作为全省的重点工程，曾开挖过惠济河、贾鲁河、双洎河等部分河段。1938年6月1日，蒋介石在武汉召开最高军事会议，决定以水代兵，企图阻止日军西进。7日新八师蒋在珍部在郑州花园口奉令决堤，9日，花园口黄河大堤被决开，滔滔黄水顺流东下，泛滥豫、皖、苏三省44县市，泛区长达400km，宽30～80km，造成逃亡灾民390万人，死亡89万人。河南有20余县62.4万hm²耕地陆沉水底，有47万人被淹致死，有140万灾民流离失所，形成了惨绝人寰的黄泛区。1947年，黄河回归豫鲁故道之后，中牟、通许、尉氏、扶沟、西华、商水6县的人口总数，只有受灾前的38%，除了部分人外逃他乡以外，其余全因受水灾而丧命。
    1941～1942年全省持续特大干旱，有90余县400万hm²耕地受旱，这次大旱，在“河南3000万人中，有十之八九困于饥饿之中”，据不完全统计，有300多万人饿死。再加上国民党汤恩伯军队驻扎在河南，搜刮掳掠人民财物，“水、旱、蝗、汤”4害连续袭击，人民受尽了苦难煎熬，国乱民困，既没有能力修建水利设施，也无法抗拒洪涝灾害，“大雨大灾、小雨小灾、无雨旱灾”，每遇灾害，只有逃亡。田园荒芜，形成无以自救的悲惨局面。
    到1949年，全省仅有土砖井19.96万眼，有水车等简易提水工具8.4万件，灌溉面积7.9万hm²；原有自流灌区，失修衰退，灌溉面积9.5万hm²；连同提水灌溉和山丘区塘堰坝灌溉总计灌溉面积37.7万hm²，约占耕地面积的5%，95%的耕地全靠天收。全省没有一座水库，河道淤浅，排泄不畅，抗御水旱灾害能力很低。