1918年6月白军袭击了弗拉基米尔省的穆罗姆城苏维埃，占领了该市，梅列茨科夫率领赤卫队参与了收复该市的战斗。8月底红军发动喀山战役，以夺回被捷克斯洛伐克军团和立宪委员会人民军（英语：People's Army of Komuch）所占据的喀山，梅列茨科夫被选入弗拉基米尔支队，担任政委，开始了他五十年的军旅生涯。9月他在进攻中受伤，修养了两个月，也获得了自己的第一枚红旗勋章。恢复健康的他希望重返前线，而县委却希望他负责县军训普及工作。争论不下时，省级机关命令他去总参谋部军事学院学习。学院一二年级的学员常会中断学习被派到前线。1919年5月梅列茨科夫被派到顿河地区的第9集团军第14师任参谋长助理。最初任务是在司令部里收集情报，标注作战地图。他认为在通信不畅的情况下，这种方式难以反映实际情况，要求自己到各部队收集情报，得到了司令斯捷平尼的批准和信任。6月份，由于友邻部队撤退，第14师为避免被邓尼金的军队和哥萨克骑兵合围被迫撤退。在撤退途中他再次受伤，伤愈后和所有在战斗中幸存的一年级学员一起调回军事学院就读二年级。
1920年夏天，梅列茨科夫再次中断学习，被派往西南方面军司令部所在地哈尔科夫，见到了司令员亚历山大·叶戈罗夫，并和军事委员会委员约瑟夫·斯大林进行了长时间的谈话，随后被分配到谢苗·布琼尼指挥的骑兵集团军下属第4师任参谋长侦察助理。他常为骑兵受阻于铁丝网和战壕，找不到迂回路线发愁。他试图和各旅旅长交流，发现他们不是无计可施就是觉得这应该是他这个参谋的责任。不久集团军分兵追击敌人，兵力分散，第4师设在科罗斯坚地域的司令部被偷袭。值班的梅列茨科夫喊醒了伏罗希洛夫。击退敌军中，梅列茨科夫再次受伤。休养半月之后，他被派往谢苗·康斯坦丁诺维奇·铁木辛哥率领的第6师任参谋长助理，除了负责侦察也参与作战工作。8月份他接受寻找浅水渡口和迂回小径的任务，以便出其不意地渡过斯特里河进攻。不久波兰军队在侧翼的行动，组织了集团军的全面进攻。红军总司令谢尔盖·谢尔盖耶维奇·加米涅夫（俄语：Каменев, Сергей Сергеевич）认为这是西南方面军与米哈伊尔·尼古拉耶维奇·图哈切夫斯基率领的西方面军协同不好出现缺口导致的，停止实施利沃夫战役，将第1骑兵集团军划归西方面军，梅列茨科夫因此回到军事学院进修三年级课程。梅列茨科夫在回忆录中认为这段在骑兵集团军的经验对他影响颇大，“1917年夏季到1920年夏季可以作为我成为军事首长的第一个阶段. 梅列茨科夫在总参军事学院的所学的课程内容丰富，包括哲学、政治经济学、历史和军事科学等诸多课程，还常有军事首长来学院做讲座，比如图哈切夫斯基就和学员讨论过红军在华沙战役中失败的原因，学员们也常会和教授一起研讨第一次世界大战中的军事问题。1921年1月梅列茨科夫利用养伤假期回到苏多格达，和相恋五年的叶夫多基娅·波得罗夫娜·别洛瓦娅结了婚，她后来一直在梅列茨科夫所在方面军的军医部门工作。10月份他通过了学院的毕业考试，在论述“战略和战术中思想和意志的统一”的题目上得到优秀，而在论述吕岑战役、包岑战役和集团军规模的战役的题目上得到良好的成绩。
毕业后，梅列茨科夫被推荐到驻彼得格勒的独立训练旅任旅长，但图哈切夫斯基向谢尔盖·加米涅夫要求，把骑兵出身的他调往西部军区，组建白俄罗斯骑兵军司令部，他组建好了指挥部之后发现是徒劳的，因为新司令员会把自己的指挥部直接带过来，随后他用了九个月时间整顿了情况十分糟糕的托木斯克骑兵师，自己回忆说：“一个团刚整顿就绪，就被调走交给另一个骑兵师，最后一个团被调走后，此骑兵师就解散了”。他的下一个任务是检查六个地方民兵局的工作，这让他对彼得罗扎沃斯克、季赫温地区有了一定了解，多年后他将在这些地区抗击德军。1923年底，梅列茨科夫被派往高加索军区任顿河步兵第9师参谋长。他积极顺应当时目标为正规化，制度化的军事改革的要求，在补充兵员、训练新兵和加强装备方面作了一些工作. 1924年7月他被任命为莫斯科军区动员部部长。甫一到任，他就和组织部长戈尔巴托夫一起提出减少办事人员，增加效率的方案，得到了革命军事委员会主席米哈伊尔·伏龙芝和军区司令伏罗希洛夫的支持。9月起他兼任军区副参谋长，在伏龙芝和伏罗希洛夫领导下参与了地方民兵制度和后勤制度正规化的改革，并试验了局部动员的效果。期间他还常受军事学院的委托，为学员介绍地方工作的经验，与院长帕维尔·帕夫洛维奇·列别杰夫（俄语：Лебедев, Павел Павлович）就正规军与地方军事力量配合进行过讨论。1925年秋伏罗希洛夫接任去世的伏龙芝任革命军事委员会主席，巴济列维奇（俄语：Базилевич, Георгий Дмитриевич）代理莫斯科军区司令。之后的三年，梅列茨科夫与他配合成功地完成了军区的军事改革工作，认为他的言传身教给了自己很大帮助。
1928年11月莫斯科军区新任司令员伊耶罗尼姆·彼得洛维奇·乌博列维奇（俄语：Уборевич, Иероним Петрович）到任，他担任过多个军区的司令员，并曾于1927-1928年在德军总参高等军事学院学习。乌博列维奇一到任就强调阶级教育、训练和新式装备的重要性，组织了多次实兵演习。他对演习的讲评、他在提高平时训练和对坦克兵的指挥水平、建立坦克兵训练基地和需要加强空中防御的意见深深影响了梅列茨科夫。梅列茨科夫认为乌博列维奇影响了自己的一生，在回忆录中写道：“在这以前（也不妨说在这以后）还没有一位军事首长能像他那样使我获得那么多的教益。”
1930年梅列茨科夫轮到担任实习指挥员任务，被任命为步兵第14师师长兼政治委员，莫斯科军区政治部副主任赫鲁廖夫（俄语：Хрулёв, Андрей Васильевич）为梅列茨科夫的政委工作提供了很多建议，这让他了解了政工工作方式和如何与政工人员相处。后来在卫国战争里，这一经验帮助他与一向和军事主官关系紧张的列夫·麦赫利斯（俄语：Мехлис, Лев Захарович）相处得不错。不久根据苏联和魏玛共和国签订的《苏德友好中立条约》，他被编入红军指挥官小组前往德国参谋部进行考察交流。他对德国参谋部里工作的熟练度和良好的组织印象深刻，但是也认为这样作过于墨守成规，会限制参谋人员的能动性。
回到俄国后，梅列茨科夫和当时莫斯科军区的司令员科尔克（俄语：Корк, Август Иванович）在因工作方式和个人性格不同，发生分歧。随着矛盾加深，1932年4月他被调往和德国接界的白俄罗斯军区任参谋长。重新在乌博列维奇指挥下工作。梅列茨科夫除了强调训练强度以外，还发现白俄罗斯军区交通状况不佳，一旦遇到突发事件，不同地域上的部队将无法联系，于是在修筑军队调动所用道路和改善整个交通线路进行了大量工作，但因财政拨款不足只完成了一部分。1934年白俄罗斯军区组织了一次当时规模最大的联合演习，翌年梅列茨科夫和作战部部长马特维·扎哈罗夫（俄语：Захаров, Матвей Васильевич），罗季翁·雅科夫列维奇·马利诺夫斯基合作编写的纵深战斗细则开始在部队中使用 1936年10月初西班牙弗朗哥的军队开始围攻马德里，苏联派出以别尔津为首的军事顾问团，梅列茨科夫和马利诺夫斯基、坦克兵专家德米特里·巴甫洛夫、炮兵专家尼古拉·沃罗诺夫（英语：Nikolay Voronov）都作为军事顾问被派往西班牙。梅列茨科夫勘察了马德里城的地形，到步兵部队鼓励因撤退而情绪低落的士兵，协助一步步把组织纪律性不强的西班牙共和国军队改组成正规军，还曾劝说西班牙首相弗朗西斯科·卡巴列罗离开马德里，前往巴伦西亚组织抵抗。1936年11月弗朗哥军队开始从正面进攻马德里，梅列茨科夫一方面协助组织防御，一方面负责在阿尔瓦赛特组建国际旅。随着国际旅和苏联坦克群的投入战场，佛朗哥军队的进攻被击退。
在摩洛哥军团被击退后，1937年佛朗哥决定开始以意大利远征军为主力，从马德里的东南面沿哈马拉河进攻，希望切断马德里和海港城市的联系。此时马德里防御委员会主席的军事顾问格里戈里·伊万诺维奇·库利克被调回国，梅列茨科夫接替他的职务，具体组织马德里的防御。指挥了1937年2月的哈马拉河战役，通过坚守消耗了敌人力量，然后进行反击击退了敌军的进攻。3月又指挥了瓜达拉哈拉战役（英语：Battle of Guadalajara），歼灭敌军6000余人，取得了对意大利远征军的决定性胜利。1937年6月梅列茨科夫回到俄国，并因自己的在这两次战役中的功绩获得他的第二枚红旗勋章和第一枚列宁勋章. 苏芬战争后，斯大林免除伏罗希洛夫的职务后认为总参谋长沙波什尼科夫也应该被取代，但是没有合适的人选，就问新国防人民委员谢苗·康斯坦丁诺维奇·铁木辛哥。铁也不知道谁合适，斯大林顺口问铁高级参谋人员中谁与他共事过，铁说苏芬战争期间和梅一起工作过，于是斯大林就说“既然这样，那就让梅列茨科夫给您当参谋长合适吗？他过去在您那儿干得怎么样？”铁说梅干的不错，可以。这样他就在1940年8月起任总参谋长。1940年12月底，苏联最高统帅部在莫斯科召开具有极其重要意义的会议。总参谋长麦列茨科夫大将做的题为《关于红军部队战斗和战役训练的一般问题》的报告。他着重讲了步兵的机动性问题。在谈到防御能力时，他严厉地指责，高级指挥人员和各级司令部缺乏训练，没有表现出估计战斗局势及组织战地情报工作的能力。他认为，出现这种现象，在某种程度上，是因为把年轻的、在战役战术方面及司令部工作方面还缺乏足够训练的干部大量提升到高级负责岗位上的结果。他赞扬了朱可夫基辅特别军区的炮兵部队。 但在秋季大演习中作为总导演的他偏向失败的白俄罗斯军区司令巴浦洛夫，他的这个报告对所有的人来说都显而易见地做砸了锅”（华西列夫斯基语），经铁木辛哥提议，被撤销总参谋长职务，由胜利的一方的基辅军区司令朱可夫去而代之。
1941.6.24，分管防空的副国防人民委员麦列茨科夫被捕入狱，就战前一月内3架德机从不同空域进入苏联领空（其中两架安全降落，一架被迫降）一事接受审查。在狱中首先由苏联国家安全人民委员、三级国家安全政委（后大将）麦尔库洛夫（1895-1953）和苏联国家安全人民委员会大案要案局局长、国家安全少校（后中将）弗洛济米尔斯基（1905-1953）用橡胶棍亲自对麦刑讯逼供，然后由侦查员施瓦茨曼、季缅科夫、伊万诺夫、罗多斯等人轮流拷打，麦被打得站不起来，贝利亚请示斯大林，斯特批麦可以坐在椅子上受审。麦受不了，承认自己参加了间谍集团，准备发动政变推翻斯大林。然后又当着麦的面拷打波罗的海沿岸特别军区司令罗克季奥诺夫上将，后者满身是血，疼得大喊。麦实在看不下去，便劝罗受不了就按他们要求做算了（1955年施瓦茨曼等的证词）。 1941年9 月 8，因前线战局吃紧，斯大林命令直接从卢比扬卡把麦接到克里姆林宫，吃惊地发现麦的样子已认不出来。斯好言抚慰，麦重返战场。1941.12.9，苏联最高大本营代表兼第7独立集团军司令的麦列茨科夫，指挥缺编少员的第7集团军和第4集团军将德军赶出了齐赫文，这是德军在苏德战场上遭受的最初的失败之一。
1941年12月起任沃尔霍夫方面军司令，下辖4个集团军，但他要求将第54集团军归入麾下统一指挥的企图遭到列宁格勒方面军司令霍津中将和安德烈·亚历山德罗维奇·日丹诺夫政委的反对。该方面军于1942年协同列宁格勒方面军军实施了失败的柳班和锡尼亚维诺战役。第2突击集团军被切断后该军司令安德烈·安德烈耶维奇·弗拉索夫投敌成了叛徒。1942年5—6月，当沃尔霍夫方面军改编为战役集群时，梅列茨科夫降为第33集团军司令。但当霍津中将明显言过其实是时候，6月起他再任沃尔霍夫方面军司令，除原辖4个集团军外，还增加了两个集团军和一个空军集团军。该方面军于1943年初与列宁格勒方面军共同突破了列宁格勒的封锁，胜利地进行了诺夫哥罗德—卢加战役(1944)。 梅列茨科夫回到沃尔霍夫方面军之后，和接替霍津出任列宁格勒方面军司令的戈沃罗夫（俄语：Говоров, Леонид Александрович）共同组织列宁格勒地区的军事行动。任务是减轻对列宁格勒军事压力的同时，从西部和南部战线吸引尽可能多的德军。当时这两个方面军中间的德军位于拉多加湖南岸一块宽16千米的地带。这里大部地区布满森林与沼泽，而德军又坚守着其中唯一的干燥地—西尼亚维诺高地，十分不利进攻。而苏军考虑到没有力量进行太长时间战役，就选择了这条离列宁格勒最短的路线进行进攻，同时也可以造成攻击的突然性。不料德国北方集团军群此时也正在策划“北方之光”行动，从南方调来了曼施坦因的第11军团，希望可以一举占领列宁格勒，这正好大大加强了拉多加湖南岸的防御。8月底沃尔霍夫方面军发动了西尼亚维诺攻势，最初的一周内进展较为顺利。希特勒对此极为不满，于9月4号命令曼施坦因取代屈希勒尔指挥当地的全部德军。
由于两个方面军配合不佳和兵力装备均不足，9月10号-20号两方在西尼亚维诺高地附近陷入胶着，曼施坦因趁机做好了反攻的准备，于9月21号对苏军两翼发动了突击。这次突击出乎正在等待预备队加强的梅列茨科夫的预料，成功击退了列宁格勒方面军，包围了第2突击集团军。但曼施坦因在歼灭被围的第2突击集团军时遇到了和梅列茨科夫同样的窘境，兵力不足，抵抗顽强且密林地区不宜机动，他只好从围攻列宁格勒的军队中抽调大量火炮进攻。四天后，大本营最终同意回撤，梅列茨科夫亲临前线，费了很大力气才在10月份打开了缺口，将集团军的一部分撤到沃尔霍夫河东岸。曼施坦因回忆录中强调自己的突击成功歼灭了第2突击集团军的一大部分，俘虏一万两千余人。整个战役苏军在付出伤亡十万人的惨重代价后，未能解除对列宁格勒的包围，但德军的人员和弹药也消耗严重，不得不放弃了占领列宁格勒的“北方之光”行动。
1942年11月朱可夫和伏罗希洛夫来到前线，协调两个方面军和舰队的行动。朱可夫指出了梅列茨科夫在进攻中把预备队放置过于靠前，实际上成了第一梯队，这使部队遭到了严重损失。他也注意到当地炮兵观测的困难，特别是这样的多林地区，更容易浪费炮弹，他为此要求补充航空气球和校准机。1943年1月13日“火花”行动开始，五天之后两个方面军之间被合围的德军被完全清除，到1月22日已经建立了8到10千米的走廊，之后迅速修建了一条铁路以便更好的给列宁格勒供应物资。在战斗中，苏军缴获了一辆德国新制造的“虎式”坦克，梅列茨科夫命令将其运到实验靶场以找到装甲的弱点，这让苏军研发了125毫米自行火炮，后来在库尔斯克战役中起到了很大作用。这一战役后不久，梅列茨科夫和戈沃罗夫均获得一枚表彰进攻的苏沃洛夫勋章。
“火花”行动之后的一年中，大本营不断把预备队调往乌克兰地区用于进攻，沃尔霍夫方面军的任务变为巩固和扩大已经建立的走廊。梅列茨科夫创造了“磨面机”战法，通过炮兵和航空兵在胶着的双方战线上造成声东击西的效果，逐步摧毁敌人在姆加突出部的防线，迫使敌人将预备队从库尔斯克地区调离。在1943年冬季进攻姆加时，梅列茨科夫陪伏罗希洛夫去检查楔入德军阵地的一个师的情况，指挥所被敌人包围了。来救援的坦克部队到达后，坦克手向梅列茨科夫报告已经击退敌人，伏罗希洛夫看了大喊：“基里尔·阿法纳西维奇，这不是你的儿子吗？”。1943年12月，梅列茨科夫组织了校阅战术演习和炮兵学术研讨，同时进行了大量的侦察和工兵作业，为即将进行的攻势作准备。1944年1月14日列宁格勒-大诺夫哥罗德攻势开始，不久切断了诺夫哥罗德周边的铁路和公路，攻占诺夫哥罗德，将战线推进了二十五千米，于1月27日彻底解除了对列宁格勒的包围。之后梅列茨科夫又组织了针对卢加和德国北方集团军群的的该攻势的第二和第三阶段，相对于第一阶段的顺利，后两个阶段遭遇的抵抗大大增强。整个攻势中共歼灭德军六万人左右，将战线推进了六十到一百千米，后来被认为是“十次打击”中的第一次. 1944 年2 月中旬，列宁格勒解围后，沃尔霍夫方面军被撤消了，军队转隶给列宁格勒方面军，梅列茨科夫被任命力卡累利阿方面军司令员。对这种变动，他并不怎么高兴。他希望到熟悉的白俄罗斯战场去。但斯大林的回答大意如下：“你对北方向也是熟悉的。同时，你又有在复杂的森林沼泽地实施进攻战役的经验。你手里还有地图，何况早在1939—1940 年苏芬战争期间，你就在维堡方向指挥过集团军，并且突破了曼纳海姆防线。眼下，派一个对该战区特点一无所知，又没有在卡累利阿和极圈内地区作战经验的人到卡累利阿方面军去，是不妥的，因为这会延误歼敌的组织工作。任何另一个司令员也要用很多时间重新学习。我们恰恰没有这样的人”。
他无可奈何的来到了卡累利阿方面军司令，奉命指挥5个集团军在长达千里的荒原和极地把德军赶出去，同时还要搞好和芬兰和挪威的关系，在他的领导下，方面军部队进行两个战役：斯维里—彼罗扎沃茨克战役(1944.6—8)和佩特萨莫—希尔克内斯战役(1944.10)，结果分别解放了南卡累利阿和苏联北极地区及挪威北部地区。以很小的代价打败了勇敢的芬兰军队和重创德国第20集团军。取得这些战役的胜利是由于：正确选择主要突击方向；在道路数量有限的情况下，巧妙地把军队和物资技术储备集中于这些方向；对敌军集团的后方实施迂回机动并高水平地组织指挥以及与北方舰队和奥涅加湖区舰队密切协同动作。这一切都表示经过三年血火洗礼的红军战斗力今非昔比和他的指挥艺术的精湛和大胆。1944年10月梅列茨科夫的部队摧毁扎波罗热的敌军，10月26日梅列茨科夫被授予苏联元帅军衔，挪威国王哈康七世（Хокон VII ）授予梅列茨科夫“神圣奥拉夫”大十字勋章）。
梅列茨科夫在大战中从来就没有在主要方向战斗过、长期在北线默默无闻的战斗。他之所以能当上战时元帅，主要靠他的深厚资历和在北极这两次决定性的战役，另外和他的为人之道不无关系。比如他就能和红军中人人都讨厌的列夫·扎哈洛维奇·麦赫利斯相处的很好。我们梅列茨科夫元帅就曾经这样回忆梅赫利斯：“1942年春，梅赫利斯曾是大本营派驻克里木方面军代表。据悉，他在那里有负于对他的期望。看来他从克里木失意中接受了某些教训。也许他认为，战术、战争艺术等问题不属于他工作范围。不论是否这样，梅赫利斯在沃尔霍夫方面军主要做政治工作和供应各种必需品的组织工作。应当公正指出，为了准备“火花”战役，他做了许多工作。他为人很诚实、勇敢，但偏于多疑和过分粗鲁。在任何时候任何事情上他从不会背着斯大林，斯大林很了解这一点，因此信任他。如果梅赫利斯就某一件事写信给最高统帅，很快就可以得到答复。有一次，各集团军都缺少枪背带，军需部门只好发一些布条做代用品。梅赫利斯写信报告斯大林，第二天就用飞机运来上等背带。还有一次，给方面军运来了好烟叶，以替换了马合烟（劣质烟）。” “狡猾的雅罗斯拉夫人”（斯大林这样称呼梅列茨科夫）以“马克西莫夫将军”的假名开赴远东，同时和他一起东调的是他的方面军整个领导班子。他被任命为滨海军队集群司令，该集群于对日作战初期改名为远东第1方面军。在他的领导下方面军部队于1945年8—9月胜利地进行了东满和北朝鲜进攻战役，在沼泽，密林，暴雨下在一个星期内突破了关东军第一方面军永备筑垒地域，突入了120-150公里。战役中梅列茨科夫机巧地运用苏芬战争和卡累利阿战线作战中积累的对预有准备的防御地带实施突破的经验。在战役进程中广泛使用先遣支队以及空降兵和海军登陆兵。
战后他审问了日军将领， 对于日军将领如何看待苏联对日宣战这一问题，参谋松村回答说：“我们是军人，所以，既然战争爆发了，我们就得打仗。我们认为苏联完全可能站在盟国一边出兵。我们也知道，要用我们的兵力在满洲抵抗苏联是不够的；但是如果日军总部未曾被迫把这些兵力调到本土，以对抗拟议中的占领的话，我们有力量，至少在两年内足以守住朝鲜。松村继续说，在战胜英美后，这一点我们相信过，我们认为就能利用朝鲜这块跳板，进攻红军，并夺回整个满洲。我，还有其他我所知道的将领都以为在这场战争中我们不会失败，并且以为战争只不过拖延数年而已。投降就等于承认失败。如果天皇没下停战诏书的话，我认为我们还没有战败。”日本人说到这一点，傲慢地抬起头来，但看到梅列茨科夫一笑置之，又窘得低下头去。 梅列茨科夫先后约9年任滨海军区司令、莫斯科军区司令、白海军区司令和北部军区司令，并任过高级步兵学校校长。1955—1964年任苏联国防部部长助理，主管高等军事院校。1964年4月起任苏联国防部总监组总监。苏共中央候补委员(1939—1956)。苏共中央检查委员会委员(1956—1961)。苏联第一—五届最高苏维埃代表。获列宁勋章7枚，十月革命勋章1枚，红旗勋章4枚，一级苏沃洛夫勋章2枚，一级库图佐夫勋章1枚，奖章及外国勋章多枚。荣获苏联“胜利”最高军功勋章1枚和荣誉武器1件。葬于红场克里姆林宫墙下。布拉戈维申斯克高级坦克指挥学校以梅列茨科夫的名字命名。
