北宋初期山水画上承荆浩以水墨为主的传统，以表现北方雄浑壮阔的自然山水为主。
除北方山水系统的山水画外，长于界画的郭忠恕，善于表现湖山小景的惠崇、赵令穰，以及继承唐代以来的青绿山水画法的
王希孟等，中国山水画的发展起了重要的作用。
李成与范宽，董源以不同的风格创立了北宋南北的三大主流画派。李成的水墨山水，善用淡墨的情韵，体现山水的灵秀，展现出其文秀的一路。北宋山水画家
米芾曾说：“李成淡墨如梦雾中，石如山动。”李成创造了“卷云皴”，“卷云皴”是最早也是影响最深远的山水画皴法之一。北宋另一主要流派山水画家是范宽。
范宽与李成虽然是北方流派，但是与李成有很大的不同，他的画体现的是壮武的风采。范宽传世的作品有《溪山行旅图》、
《雪景寒林图》等。他画山水，强调主峰突出，要占三分之二的画面。以一种雄伟峻厚的气势，显示一种咄咄逼人的威严。同时，范宽又十分重视具体景物深入细致的刻画，精心经营山坳深壑中的飞瀑流泉和山峦的顶端密密层层的树木。特别是正面的山体以稠密的小笔，皴出山石
巨峰的质与骨。这种皴法便是后人所称的“钉头皴”或“雨点皴”，稍大一点的被称为“豆瓣皴”。
追答与北派两家对峙的便是以董源为代表的江南山水派。董源笔下描绘的是江南景区。米芾对他也有很高的评价：“平淡天真，唐无此品，在毕宏上。”《夏山图卷》等便是他的代表作。董源最大的成功之一是创造了最能表现江南山石形质的皴法“披麻皴”同时他又十分讲究淡墨的渲染，使湖山增强了湿润的感觉。最后他还用点来丰富表现手法，重重叠叠的点，使江南的湖光山色增添了郁郁葱葱的感觉。董源的继承者有巨然。巨然山水在董源的基础上开创了“长披麻皴”，然后再以焦墨破笔点苔。浓点淡皴，更显得气格秀润，墨彩腾发。北宋的三大山水画流派争奇斗艳，为北宋的山水画留下了绚烂的一笔。
与北宋山水画相比，南宋山水画从内容到形式上都出现了新的变化。南宋山水画的代表人物是后来被称为“南宋四家”的李唐，刘松年，马远，夏圭。他们在继承前代的基础上都有所创新，将北宋雄浑壮阔的全景式描写演化为南宋精巧简洁，“水墨苍劲”的诗意挥洒。