中国是世界上历史悠久的农业文明古国之一，水土保持自古有之。《尚书》有“帝（舜）曰，俞咨禹，如平水土”的记载。《吕刑》有“禹平水土，主名山川”的记载水土保持的措施，古有沟之制。西汉时山区已出现梯田雏型，广西龙胜县龙脊梯田已经有几百年的历史了 ，从山脚到山顶层层梯田、水田形成壮丽景观。黄土高原从明代起就打坝淤地，合理利用土地，保护森林，史籍中常有所见。《国语》记载太子晋曰：“古之长民者，不堕山，不崇數，不防川，不窦泽”；宋代魏岘提出“森林抑流固沙”；明代徐贞明提出“治水先治源”至今仍可借鉴。
中国水土保持经历的三个阶段
起始阶段（1923~1949年）由于长期战乱，无耕地的贫苦农民到山区陡坡毁林开垦，破坏森林植被，水土流失十分严重。1923年，南京金陵大学任承统等人首先用现代科学理论和方法在山西、山东开展水土流失状况的调查研究。
1940年，黄河水利委员会林垦设计委员会与金陵大学农学院、四川大学农学院在成都召开了防止土壤侵蚀的科学研究会。会上首次提出了“水土保持”一词。同年8月林垦设计委员会改名为水土保持委员会，水土保持开始成为专业术语。1945年在重庆成立了中国水土保持协会，推动了水土保持工作的开展。20世纪40年代先后在甘肃天水、四川内江、福建长丁河田、广西柳州西江等地设立了水土保持实验站，对水土保持的技术措施进行了试验，对水土流失的形成的因子进行观测，研究水土流失的规律，开创了中国的水土保持科学研究工作。
试验推广阶段（1950年~1978年） 中华人民共和国成立初期，由于水土流失严重，水旱灾害连年发生，使农业和国计民生遭受严重损失。1950年10月，政务院在治理淮河的决定中要求普遍推行水土保持工作。1952年12月周恩来总理签发了政务院《关于发动群众继续开展防旱、抗旱运动并大力推行水土保持工作的指示》。指示强调：“由于过去山林长期遭受破坏和无计划在坡地开荒，使很多山区失去涵养雨水的能力。这种现象不但是河道淤塞和洪水为灾的主要原因，而且由于严重的土壤冲刷及沟壑的增加，使山丘高原地带土壤日益瘠薄，耕地日益减少，生产日益衰退。”因此必须大力推广水土保持工作，以逐步从根本上保证农业生产的迅速发展。
20世纪50年代，以治理黄土高原为重点，水利部、中国科学院和黄河水利委员会在黄河中游地区组织了3次大规模的水土流失考察和查勘工作，基本摸清了黄河流域水土流失的基本情况，总结了群众的蓄水保土经验，并以黄河支流为单元提出了勘查报告，做出了较为完整、系统的黄河流域水土保持区划。
1950年~1954年，在黄河中上游地区扩建了天水、绥德、西峰、榆林、延安、平凉、定西、离石等水土保持推广站，各省也开展了水土保持试点。根据1960年统计，全国共有水土保持实验站、工作站181处，这些试验站、工作站对水土流失形成的主要因子进行了观测，对水土流失的规律进行了探讨，在总结群众经验的基础上试验推广了水土保持治理技术，为水土保持学科的发展提供了科学依据。
1956年~1963年，在国家统一安排下，曾两次修订了全国水土保持科学技术发展规划。高等院校、科研院所和水土保持实验站根据国家科研规划，分别对各地区水土保持不同类型区的水土流失规律、水土保持措施及其效益进行了定位试验和专题研究。对各水土流失类型区的水土流失形式和危害，产生水土流失的自然因素和人为活动的影响，水土保持规划的原则和方法，小流域综合治理及其效益，梯田、淤地坝、林草等主要水土保持措施的实施方法及其效益进行了分析、研究。实验推广了机耕梯田、反破梯田、引洪漫地、水坠筑坝、水枪冲土、飞机播种、水土保持林等科研成果，获得了显著成效，也为水土保持科学的形成奠定了基础。
1958年北京林学院设立了水土保持专业，开始了中国水土保持高级人才的培养。《中国水土保持概论》是这个阶段的代表著作。
普及发展阶段（1979年以后） 中国共产党十一届三中全会把工作重点转移到经济建设上来，实行改革开放政策，水土保持得到了空前的发展。1982年6月30日，国务院发布了《中华人民共和国水土保持工作条例》。1991年6月29日，第七届全国人大常委会第20次会议通过了《中华人民共和国水土保持法》。它的颁布实施，是中国水土保持事业的一个重大转折点，为全面预防、治理水土流失，合理利用和保护水土资源提供了有力的法律武器，使全国的水土流失防治工作走上了法律化、规划化、科学化的轨道。1980年，北京林学院设立了水土保持系，除培养水土保持本科生外，还培养硕士研究生。
1980年水利部召开会议，在总结以往经验与教训的基础上，提出以小流域为单元统一规划，综合治理水土流失。这一举措不仅符合防治水土流失的规律，提高了治理效益，也合理利用水土资源，发展小流域经济开辟了道路。
50年代的水土流失综合治理，在改善农业生产基本条件，提高农业产量，促进农村经济发展，加速贫困山区和沙区农民脱贫致富，改善生态环境等方面起到了十份重要的作用。自中华人民共和国成立至2000年底，全国完成水土流失综合治理面积近81万km2，其中营造各类水土保持林和经济林果面积51.4万多km2，建设梯田、坝地等基本农田及治沙造田13.3万km2，种草保存面积4万多km2，还修建了大批蓄水保土工程。这些水土保持工程每年可拦蓄泥沙15亿吨，增加蓄水能力250亿m3，增产粮食170亿kg，生产林果产品300亿kg，经济效益十分显著。自1980年以来全国开展的七大流域重点治理工程覆盖总面积已达180万km2，设计26个省、自治区、直辖市的900多个县。全国开展综合治理的小流域2万多条，其中5000多余条小流域已完成治理任务。
在水土保持科学研究方面，“七五”和”八五”科研攻关计划中，国家立项研究黄土高原综合治理和长江上游水土保持林。“七五”科研攻关计划中黄土高原综合治理项目共建立11个综合治理区，分别提出了相应的治理模式，获得科研成果81项，其中三项达到国际领先水平，11项达到国际先进水平。生态经济型小流域综合开发治理和生态经济型水土保持防护林的营造成功，为水土流失严重的经济贫困地区的可持续发展探求到了一条新路。创新性科研成果，如集雨农业、径流林业、沙棘造林与经济开发等项目都获得了巨大的效益。
在水土保持科学的国际交流方面，一些科技人员出访美国、澳大利亚、日本等国家，引进了西方先进的科学技术。如引进人工模拟降雨技术，加快了不同坡度、不同降水量水土流失规律的研究进度；引用美国同用土壤流失方程并加以改进，对不同地区土壤侵蚀状况进行了分析；运用卫星遥感技术进行全国水土流失状况的监测和制图；运用系统动力学动态仿真模型进行水土保持规划；用模糊聚类分析对水土流失类型进行分类分区；利用地理信息系统和计算机，对小流域综合治理进行最优化模式选择；采用灰色系统分析水土保持效应。
各地在防治水土流失方面积累了丰富的经验，特别是20世纪80年代以来，在总结以往经验、教训的基础上，进行了许多探索和改革，走出了一条具有中国特色的以小流域综合治理为主的新路子。