秦汉时期，国家统一，社会比较稳定，对开发水利，既有社会要求，也有有利的条件。因此，这一时期河南水利有了较大发展。公元前210年，秦修沁河枋口渠，位于济源县五龙口，经历代修缮，灌溉效益经久不衰，至今仍为广利灌区所沿用。公元前140年，汉武帝时修建了鸿隙陂大型蓄水灌溉工程，它位于汝河平原地区，曾有过长期显著的灌溉效益。汉武帝元光三年(公元前132年)，黄河于濮阳瓠子决口，当年堵口失败，汉武帝轻听丞相田蚡之言，认为河决是天命，非人为所强求，因而未再堵合，以致泛滥20余年。到元封二年(公元前109前)，汉武帝发卒数万人，派汲仁主持堵口工程，并亲自督工，群臣参加堵口劳动，终于堵合。公元前40～36年汉元帝时，南阳郡太守召信臣在泌阳修建马仁陂，在邓县修建六门碣、钳庐陂蓄水灌溉工程。西汉末至东汉初，黄河决泛，纵横乱流。西汉哀帝初，遂诏令各地，广求治河良策，绥和二年(公元前7年)，贾让应诏上书，提出治理黄河方案三种，后世称为“贾让三策”。上策是从黎阳(今浚县一带)改道北流，“徙冀州之民当水冲者，决黎阳遮害亭，放河使北入海”。中策是“多穿漕渠于冀州地，使民得以溉田，分杀水怒，……”。下策是在黎阳一带“缮完故堤，增卑培薄”。他主张黄河防洪问题，要预留容蓄洪水的适当场所，可以分流排泄，人们只能在洪水严重威胁区以外居住和生产，使人和洪水都有各自的居留场所，相互不妨碍，“此功一立，河定民安，千载无患”。他认为单纯依靠修筑堤防来防止洪水泛滥是下策，是“劳费无己，数逢其害，后患无穷”。主张适应和改造不利的自然条件，趋利避害。汉平帝元始四年(公元4年)，安汉公王莽召集群众征求治理黄河的意见，大司马史(大司马的副职)张戎首先指出黄河的特性：“水性就下，行疾则自刮除成空而稍深。河水重浊，号为一石水而六斗泥”，他从水流、泥沙角度分析黄河下游河患成因，提出要保持河水自身的挟沙能力，以水刷沙的创见主张。特别是“河水重浊，号为一石水而六斗泥”这句为黄河水沙作了量的估计，对后世对黄河治理具有深刻意义，常为人们所引用。这是史书上关于黄河的水沙关系和利用水力冲沙的首次记载。东汉建武七年(公元31年)，杜诗任南阳郡太守时，造作水排，这是一种利用水力作原动力的冶炼鼓风机械，水排的发明和应用，要比欧洲早1000多年。“又修治陂地，广拓土田，郡内比室殷足。”，南阳人民感其政绩，称其“前有召父，后有杜母”。汉明帝永平十二年(公元69年)，发卒数十万，命王景治理黄河和汴渠，自荥阳以下东至千乘修堤千余里，并开凿阻碍水道的山阜，破除河道中旧有阻水工程，堵截横向串沟，防护险要堤段、疏浚淤塞的河段和渠道，修建水门，使黄汴分流，收到了防洪、航运和稳定河道等重大效益，并使黄河从此以后的800多年中没有发生过重大改道。秦汉期间的河南水利，以北部治理黄河除害兴利和以中南部发展灌溉之利为重点，取得了防洪、兴利的重要成就，是河南水利发展史上的一个兴盛时期。
    从三国鼎立，直到两晋、南北朝时代，中原战乱连年，人民流亡，土地荒芜，水利失修，农业生产遭到严重破坏。但在曹魏执政期间，由于增强军事力量的需要，屯田济军、运兵运粮，使灌溉和航运工程又有所发展，但工程都带有战时水利的特征。曹魏政权于建安元年(195年)发布了《置屯田令》，任命枣祗为屯田都尉，开始召募流民屯田许昌，兴办农田水利，在临颍、西华境内开掘河道，名为“枣祗河”，上通许昌南六里的南屯粮库，既可用来灌溉，又兼作运道，使许昌地区大面积地种上了水稻，促进了粮食产量的增长。为了及时运送军粮，还修了许多运粮河。从襄城到许昌，从繁昌(今临颍西北)到许昌，运粮河四通八达。公元202年，建安七年，曹操于浚仪(今开封市)修睢阳渠，即疏通浚仪至睢阳(今商丘市南)一段汴渠，以利运道。建安九年(公元204年)，曹操北征袁尚，为了运粮，在淇水上用大枋木筑堰，遏淇水北流，开成白沟运渠。
    西晋初，徐、兖、豫三州大水，洪涝灾害严重。晋武帝下《诏书》，诏献对策，杜预上疏分析灾害，提出了废除兖、豫东界陂塘的对策。他认为由于陂塘的侵润，地下水位较高，每逢大雨，积水无法下渗，也无法居住，林业、牧业俱废，故不宜多留陂塘。为此，他提出，兖、豫东界平原陂塘地区“宁泄不蓄”，主张保留汉代旧陂旧堰，以及山谷私家小陂，可能是因为这些工程作得比较坚固实用，占地面积也较小，而废除魏以后所建的陂堰，可能是因为这些工程是在战争环境中应急之作，不仅工程粗糙，而且占地面积较大。杜预的奏疏被批准执行以后，在河南平原废掉了不少曹魏以后建立的陂堰，也取得了减少内涝灾害的效益，而“朝野称美”。杜预对水情、地情、灾情的调查分析，提出了对平原河道首先要疏通排泄，废弃害多利少陂堰的主张，留下了对平原治水的实践经验，是难能可贵的。北魏郦道元(?～公元527年)，范阳涿县(今河北涿县)人，曾在河南任颍川(今许昌市)太守、鲁阳(今鲁山县)太守、河南尹等官职，近十个年头。公元493年，曾随孝文帝巡视黄河，观三门山砥柱峡天险。也对河南的山川进行过广泛的调查研究。所著《水经注》，作了40倍于《水经》原书的补充而成为30.3万字的巨著，旁证博引，详加考证，集中国六世纪以前地理学著作之大成，是水文地理、水利考古的重要文献。由于郦氏身处半壁河山的北朝，足迹未到过南方，而在河南的经历较长，因而对山川的注述，更具有实践性。
    隋、唐、北宋时期，河南的经济和文化达到历史上的鼎盛阶段，也是水利大发展的时期。公元581年，隋朝立国，公元589年隋灭陈后，全国重归统一。隋的统一，加强了封建王朝对人力物力的控制，社会秩序安定下来，为了加强漕运，隋代营建东都洛阳和开凿南北大运河。大业元年(公元605年)隋炀帝开通济渠，“发河南诸郡男女百余万”，通济渠共分两段：西段自东都洛阳西苑(今洛阳市涧西一带)引谷(即今涧水)、洛二水、循东汉所开阳渠故道，傍洛东行，至偃师汇洛河、至巩县洛口入黄河。东段自黄河南岸的板渚(今荥阳县汜水镇东北)引黄河水流经广武山南麓、东行汴水故道，至开封东汴水折向东南流，经陈留、壅丘(今杞县)、睢县、宁陵至宋城(今商丘)、东南行蕲水故道，又经夏邑、永城至安徽泗县、江苏盱眙对岸注入淮河。初名通济渠，又名御河，唐初改称广济河，唐宋时通称西段为漕渠或洛水，东段为汴河或汴渠。通济渠施工从大业元年三月开工，到八月结束，由东都洛阳至江苏江都，1000多km，沿途尽量利用天然河流和历史相继开凿的鸿沟水系人工运河，既减少工程量，又可利用淮河北侧支流补充和调节水量。隋大业四年(公元608年)开挖永济渠，“发河北诸郡男女百余万”，这条运河线路是利用在东汉建安年间所开白沟的基础上进行疏浚、扩宽和改建的，是利用沁水南通黄河、北引沁水与清、淇二水相接、东北行入白沟。运河流经武陟、新乡、汲县、黎阳(今浚县境)、临河(今浚县东)、内黄、河北省大名西、山东省临清、东北流入河北至天津，再西北行通至涿郡，全长1000余km。通济渠和永济渠的开挖成功，形成了以洛阳为中心，从中原通向江南以通济渠为纽带，通向北方以永济渠为纽带，沟通南北的航运系统。
    由于隋朝历史短，运河的作用未能得到充分发展。到了唐、宋时期，汴渠整治，并不断改进转运制度，使漕运能力大为提高。唐初漕运年运输量不过20万石，到天宝元年(公元742年)，漕运量每年高达400万石。到玄宗天宝十四年(公元755年)暴发“安史之乱”以后，北方财源断绝，唐王朝财政收入更是依靠转漕东南地区的粮食、物资，使漕运成为唐王朝维持其统治的命脉。北宋建都开封，漕运路线比唐朝要近一半，由淮入汴，水道畅通，滩阻较少，不需转运。加之造船、水工技术的进步，宋朝的漕运量很快地超过了唐朝。每年漕运量一般五、六百万石，多时还曾达到800万石，成为全国漕运史上的最高纪录。
    唐宋两代对农田水利工程十分重视。初唐时，中原因连遭战乱，社会经济摧残严重，要复兴经济必须首先恢复农业，在唐代律法中，就有专门为水利部门制定的法律叫《水部式》，它对水利灌溉管理，规定甚详。河南发展灌溉修复了许多农田水利工程，在今河南省东部，修了陈留的观省陂，灌田达百顷；在陈箕城县(今西华县)，整修三国时邓艾所建的水利旧址，引颍水灌田，名邓门陂；在息县西北，扩建隋玉梁旧渠，洪陂60所，灌田达3000顷；在光山县曾建雨施陂，灌田400余顷。修复的农田水利工程，还有管城县(今郑州)的李氏陂、中牟的24陂、许昌的堤塘、平舆的葛陂、永城的大剂陂等，促进了农业生产的发展。唐朝对航运网效益的发挥，也比较重视，除对运河经常疏浚以保持河道畅通提高通航能力外，还注意运河的扩建，对航运网有所补缀。开元十二年(公元724年)，采纳洛阳人刘宗器的建议，“塞汜水旧汴口，于下流荥泽界开梁公堰，置石门，以通淮、汴”，再次对汴河引黄水的口门进行了治理。说明唐代汴河引黄河水的口门，是采取汴口石门和板诸口两者交替使用的办法，以求维护汴河畅通。
    在公元907～960年，进入五代(后梁、后唐、后晋、后汉、后周)时期后，都在河南地区建都立国，在这半个世纪中，长江以北战争不断，中原人民深受其害。尤其是朱温掘开滑州黄河堤后，大河以南又连年大水，给河南的农业生产带来了十分严重的破坏。后来契丹兵入据后晋首都汴梁，将这个古城及周围几百里内的城镇村庄洗劫一空。千里中原，荒草遍地，人烟稀少，河南水利设施失修废弃，社会历史的发展又出现了一次短暂的曲折。北宋王朝建立后，又统一全国的政权，并建都于开封，河南又一次成为全国的政治、经济和文化中心，为水利的发展提供了极好的机遇。熙宁二年(公元1069年)宋神宗支持王安石变法，同时颁布了《农田利害条约》的法令，并设立各路农田水利官，主持全国水利和地方水利。根据《农田利害条约》规定，无论官员和百姓提出兴修水利的建议，不管是创议新建工程，或者是修复原有的水利设施，在实行以后，根据效益大小分别给以奖励，收效大的可以量材录用。对群众兴修水利而经济上有困难的，由国家以低息贷款给以扶助。因而调动了人们兴修水利的积极性，出现了“四方争言农田水利，古陂废堰悉务兴复”的水利高潮局面。在农田水利中，还利用黄河水、沙资源淤溉改良土壤，在陈留等8县，“引黄、汴河水淤溉”，仅京畿一路的淤田，每年就可增产粮食几百万石。在京都开封附近，兴建了水网工程，既能将涝水排出导入泗水，而且汴河、惠民河、五丈河、金水河贯穿全城，水运交通，四通八达，北宋名画《清明上河图》生动地描绘了开封汴渠已经成为把经济中心的南方和政治军事中心汴京连系起来的运输大动脉，是维持中央集权统治供给的生命线，因此，水利开发主要是围绕汴渠修复治理进行的，并把农田水利推向法制化。水利建设为推动农业发展和社会繁荣做出了重要的贡献。宋太平兴国三年(公元978年)，西京转运使程能向宋太宗上疏，拟在河南南阳下向口(今下向铺一带)筑坝置堰，拦住白河水，将水引入石塘、沙河、蔡河(开封东南)及睢水，直达汴京，并与南方的湘潭漕渠连贯起来，解决南方物资北运的困难。遂下诏书征发州、县数万民工和官兵，堑山填谷，经博望、罗渠、少柘山(今二龙山)，施工月余，竣渠百余里，抵达今方城县城东南的八里沟一带，因系汉淮分水岭地势高，修成渠高水低，水不能至。后遂增加民工，突击开渠，仍未修通，石堰又被洪水冲毁，漕渠开挖就此废止。北宋引汉通淮，选线方城缺口，南水北调，限于技术条件，虽未成功，但它的实践尝试，还是具有启示意义。