1918年6月白軍襲擊了弗拉基米爾省的穆羅姆城蘇維埃,占領了該市,梅列茨科夫率領赤衛隊參與了收復該市的戰鬥。8月底紅軍發動喀山戰役,以奪回被捷克斯洛伐克軍團和立憲委員會人民軍(英語:People's Army of Komuch)所占據的喀山,梅列茨科夫被選入弗拉基米爾支隊,擔任政委,開始了他五十年的軍旅生涯。9月他在進攻中受傷,修養了兩個月,也獲得了自己的第一枚紅旗勳章。恢復健康的他希望重返前線,而縣委卻希望他負責縣軍訓普及工作。爭論不下時,省級機關命令他去總參謀部軍事學院學習。學院一二年級的學員常會中斷學習被派到前線。1919年5月梅列茨科夫被派到頓河地區的第9集團軍第14師任參謀長助理。最初任務是在司令部里收集情報,標註作戰地圖。他認為在通信不暢的情況下,這種方式難以反映實際情況,要求自己到各部隊收集情報,得到了司令斯捷平尼的批准和信任。6月份,由於友鄰部隊撤退,第14師為避免被鄧尼金的軍隊和哥薩克騎兵合圍被迫撤退。在撤退途中他再次受傷,傷愈後和所有在戰鬥中倖存的一年級學員一起調回軍事學院就讀二年級。梅列茨科夫
1920年夏天,梅列茨科夫再次中斷學習,被派往西南方面軍司令部所在地哈爾科夫,見到了司令員亞歷山大·葉戈羅夫,並和軍事委員會委員約瑟夫·史達林進行了長時間的談話,隨後被分配到謝苗·布瓊尼指揮的騎兵集團軍下屬第4師任參謀長偵察助理。他常為騎兵受阻於鐵絲網和戰壕,找不到迂迴路線發愁。他試圖和各旅旅長交流,發現他們不是無計可施就是覺得這應該是他這個參謀的責任。不久集團軍分兵追擊敵人,兵力分散,第4師設在科羅斯堅地域的司令部被偷襲。值班的梅列茨科夫喊醒了伏羅希洛夫。擊退敵軍中,梅列茨科夫再次受傷。休養半月之後,他被派往謝苗·康斯坦丁諾維奇·鐵木辛哥率領的第6師任參謀長助理,除了負責偵察也參與作戰工作。8月份他接受尋找淺水渡口和迂迴小徑的任務,以便出其不意地渡過斯特里河進攻。不久波蘭軍隊在側翼的行動,組織了集團軍的全面進攻。紅軍總司令謝爾蓋·謝爾蓋耶維奇·加米涅夫(俄語:Каменев, Сергей Сергеевич)認為這是西南方面軍與米哈伊爾·尼古拉耶維奇·圖哈切夫斯基率領的西方面軍協同不好出現缺口導致的,停止實施利沃夫戰役,將第1騎兵集團軍劃歸西方面軍,梅列茨科夫因此回到軍事學院進修三年級課程。梅列茨科夫在回憶錄中認為這段在騎兵集團軍的經驗對他影響頗大,“1917年夏季到1920年夏季可以作為我成為軍事首長的第一個階段.
1924年7月他被任命為莫斯科軍區動員部部長。甫一到任,他就和組織部長戈爾巴托夫一起提出減少辦事人員,增加效率的方案,得到了革命軍事委員會主席米哈伊爾·伏龍芝和軍區司令伏羅希洛夫的支持。9月起他兼任軍區副參謀長,在伏龍芝和伏羅希洛夫領導下參與了地方民兵制度和後勤制度正規化的改革,並試驗了局部動員的效果。期間他還常受軍事學院的委託,為學員介紹地方工作的經驗,與院長帕維爾·帕夫洛維奇·列別傑夫(俄語:Лебедев, Павел Павлович)就正規軍與地方軍事力量配合進行過討論。1925年秋伏羅希洛夫接任去世的伏龍芝任革命軍事委員會主席,巴濟列維奇(俄語:Базилевич, Георгий Дмитриевич)代理莫斯科軍區司令。之後的三年,梅列茨科夫與他配合成功地完成了軍區的軍事改革工作,認為他的言傳身教給了自己很大幫助。
1930年梅列茨科夫輪到擔任實習指揮員任務,被任命為步兵第14師師長兼政治委員,莫斯科軍區政治部副主任赫魯廖夫(俄語:Хрулёв, Андрей Васильевич)為梅列茨科夫的政委工作提供了很多建議,這讓他了解了政工工作方式和如何與政工人員相處。後來在衛國戰爭里,這一經驗幫助他與一向和軍事主官關係緊張的列夫·麥赫利斯(俄語:Мехлис, Лев Захарович)相處得不錯。不久根據蘇聯和魏瑪共和國簽訂的《蘇德友好中立條約》,他被編入紅軍指揮官小組前往德國參謀部進行考察交流。他對德國參謀部里工作的熟練度和良好的組織印象深刻,但是也認為這樣作過於墨守成規,會限制參謀人員的能動性。
回到俄國後,梅列茨科夫和當時莫斯科軍區的司令員科爾克(俄語:Корк, Август Иванович)在因工作方式和個人性格不同,發生分歧。隨著矛盾加深,1932年4月他被調往和德國接界的白俄羅斯軍區任參謀長。重新在烏博列維奇指揮下工作。梅列茨科夫除了強調訓練強度以外,還發現白俄羅斯軍區交通狀況不佳,一旦遇到突發事件,不同地域上的部隊將無法聯繫,於是在修築軍隊調動所用道路和改善整個交通線路進行了大量工作,但因財政撥款不足只完成了一部分。1934年白俄羅斯軍區組織了一次當時規模最大的聯合演習,翌年梅列茨科夫和作戰部部長馬特維·扎哈羅夫(俄語:Захаров, Матвей Васильевич),羅季翁·雅科夫列維奇·馬利諾夫斯基合作編寫的縱深戰鬥細則開始在部隊中使用。
在摩洛哥軍團被擊退後,1937年佛朗哥決定開始以義大利遠征軍為主力,從馬德里的東南面沿哈馬拉河進攻,希望切斷馬德里和海港城市的聯繫。此時馬德里防禦委員會主席的軍事顧問格里戈里·伊萬諾維奇·庫利克被調回國,梅列茨科夫接替他的職務,具體組織馬德里的防禦。指揮了1937年2月的哈馬拉河戰役,通過堅守消耗了敵人力量,然後進行反擊擊退了敵軍的進攻。3月又指揮了瓜達拉哈拉戰役(英語:Battle of Guadalajara),殲滅敵軍6000餘人,取得了對義大利遠征軍的決定性勝利。1937年6月梅列茨科夫回到俄國,並因自己的在這兩次戰役中的功績獲得他的第二枚紅旗勳章和第一枚列寧勳章。
梅列茨科夫回到沃爾霍夫方面軍之後,和接替霍津出任列寧格勒方面軍司令的戈沃羅夫(俄語:Говоров, Леонид Александрович)共同組織列寧格勒地區的軍事行動。任務是減輕對列寧格勒軍事壓力的同時,從西部和南部戰線吸引儘可能多的德軍。當時這兩個方面軍中間的德軍位於拉多加湖南岸一塊寬16千米的地帶。這裡大部地區布滿森林與沼澤,而德軍又堅守著其中唯一的乾燥地—西尼亞維諾高地,十分不利進攻。而蘇軍考慮到沒有力量進行太長時間戰役,就選擇了這條離列寧格勒最短的路線進行進攻,同時也可以造成攻擊的突然性。不料德國北方集團軍群此時也正在策劃“北方之光”行動,從南方調來了曼施坦因的第11軍團,希望可以一舉占領列寧格勒,這正好大大加強了拉多加湖南岸的防禦。8月底沃爾霍夫方面軍發動了西尼亞維諾攻勢,最初的一周內進展較為順利。希特勒對此極為不滿,於9月4號命令曼施坦因取代屈希勒爾指揮當地的全部德軍。
他無可奈何的來到了卡累利阿方面軍司令,奉命指揮5個集團軍在長達千里的荒原和極地把德軍趕出去,同時還要搞好和芬蘭和挪威的關係,在他的領導下,方面軍部隊進行兩個戰役:斯維里—彼羅扎沃茨克戰役(1944.6—8)和佩特薩莫—希爾克內斯戰役(1944.10),結果分別解放了南卡累利阿和蘇聯北極地區及挪威北部地區。以很小的代價打敗了勇敢的芬蘭軍隊和重創德國第20集團軍。取得這些戰役的勝利是由於:正確選擇主要突擊方向;在道路數量有限的情況下,巧妙地把軍隊和物資技術儲備集中於這些方向;對敵軍集團的後方實施迂迴機動並高水平地組織指揮以及與北方艦隊和奧涅加湖區艦隊密切協同動作。這一切都表示經過三年血火洗禮的紅軍戰鬥力今非昔比和他的指揮藝術的精湛和大膽。1944年10月梅列茨科夫的部隊摧毀扎波羅熱的敵軍,10月26日梅列茨科夫被授予蘇聯元帥軍銜,挪威國王哈康七世(Хокон VII )授予梅列茨科夫“神聖奧拉夫”大十字勳章。