岳飞之遇宗泽，犹“千里马”之遇伯乐，从此得到了施展自己政治抱负和军事才能的机会。宗泽十分赞赏岳飞的才能与勇敢，相识之初，就派岳飞为“踏白使”，率领五百骑兵去抵抗进犯汜水关（今河南汜水镇西）的敌人，并一再叮嘱他说：“我看你是一个很有作战本领的人，特地不追究你以前的罪过（指岳飞在新乡与王彦分道扬镳一事，这在当时意味着背叛上司，要被判处死刑），现今是你奋勇立功的时候了，但千万不要轻率从事。”汜水关地势险要，为东、西两面的重要交通咽喉，也是南侵的西路金军的必经关口。岳飞率领五百骑兵，兵员少，粮食更是不足。面对数倍于己的金军，宜速胜而不宜久持。岳飞随即命令三百士卒，每人携带两束交叉捆在一起的柴草，埋伏在前山脚下。等到半夜，他们点燃柴草四端，高高举起，照得满山通明，金军以为是宋朝的大量援军来到，慌忙弃营遁去。岳飞乘胜追击，金军大败，疑兵之计获得了完全的成功。岳飞凯旋之后，宗泽论功行赏，用作统领，继又提为统制。
建炎二年（1128年），七月初一，抗金老将宗泽死于开封留守任上，临死之时，连呼“过河”。这一悲壮情景，使他的部下发聋振聩，岳飞更是义愤填膺，发誓要继承宗泽的遗志，北上收复宋朝江山。接替宗泽任开封留守的杜充，是一个刚愎、苛刻、喜欢残杀的无能之辈，根本无力约束和统率部下。集结在开封周围原归宗泽节制的各路军队与忠义民军，不战自乱，自相残杀。开封城外，一片鼓噪之声。杜充却带着岳飞等将官渡过淮水和长江南下。建炎四年（1130年）二月，开封落入了女真统治者手中。
建炎三年（1129年）秋，南下侵宋的女真兵马，在渡过淮水以后，取道滁州、和州，准备在渡江之后经江东而趋浙江。这时，担任建康行营留守的杜充，又不战而降。南宋的长江防线，如土崩瓦解。金军渡过长江天险，很快就攻下杭州、越州（今绍兴）、明州（今宁波）。高宗丧魂落魄，流亡到明州附近的海上，金兵仍在后面穷追不舍，企图捉拿赵构。面对将帅叛逃、士卒溃散、金军席卷而来、百姓惶惶呼救的局面，岳飞集合部队，刺血激励部下说：“我辈……当以忠义报国，立功名、书竹帛，死且不朽。若降而为虏，溃而为盗，偷生苟活，身死名灭，岂计之得矣？”士卒们被他慷慨陈词的爱国情怀所感动，都表示愿随他抗战到底。为使士兵不致剽掠、骚扰，岳飞严厉规定，不许侵掠百姓，所到之处，都要秋毫无犯。他先后移军驻屯于广德军、宜兴县，致力于安定地方的社会秩序，对窜入境内的散兵游勇，尽量加以收编，用军纪加以约束，不肯接受收编的或一向在县境内劫掠居民的，他就出动兵马去攻讨，并随时率领部队出外与金军作战。在很短的时间里，岳飞驻屯的宜兴县，竟成了百姓们躲避兵燹之灾的场所。岳家军形成的“冻死不拆屋，饿死不打掳”的良好军风，赢得了人们的广泛赞扬。他们建立起“主祠”，挂起岳飞的画像，纪念岳飞的恩德。人民有人民的选择与爱好，当地人民对岳飞的热爱与尊敬，这是对他的最高奖赏。
建炎四年（1130年）春，南侵的金军统帅兀术，因遭到南宋军民的抵抗，放弃了追袭赵构的计划、放弃已攻陷的江南州郡，声称“搜山检海”已毕，准备率部北撤。但分布在长江下游的南宋几位大将的几十万部队，全都拥兵自重、徘徊不前，坐失战机，眼睁睁地目送金军退回江北。只有岳飞，在金军北移之际，从宜兴出兵，打击了金军。
岳飞在探明金军的北撤计划之后，便率领部众主动出击，直趋静安，对金军予以拦腰猛击，并在建康附近的乡兵配合下，收复建康，就任通泰镇抚使。以后，岳飞又接受南宋王朝的一次次的“诏命”，平灭了李成、张用和曹成等军贼游寇。绍兴三年（1133年）由于岳飞在抗金斗争和各个战场所赢得的战功和声望，南宋政府就把东起江州（今江西九江）、西到荆州、北边包括长江北岸的一些州县，划为一个军区，由岳飞负责防守。岳飞此时俨然是一位能独当一面、独负一区之责的大将了。但是，祖国的山河破碎、大河南北的人民在金兵的铁蹄下的痛苦呻吟，以及满朝文武将官的腐化怯战，却使岳飞的心头涌起一阵阵悲痛，他始终念念不忘北伐中原，以便能收复故土。当有人感慨地问起：“天下纷纷，不知几时方可太平？”他便毫不迟疑地答道：“只要文官不爱钱，武臣不怕死，天下自然就会太平。”在他看来，只要朝廷能下决心北伐，文官武将不贪生怕死，不追求自己的荣华富贵，团结抗战，丢失的故土是不难恢复的。