這支部隊(duì)在中原野戰(zhàn)軍里一直被當(dāng)成頭號(hào)主力。它的前身來自抗戰(zhàn)時(shí)期的八路軍129師386旅，那時(shí)候就在太行山區(qū)打出過硬名聲。1945年10月，太岳軍區(qū)主力整編成晉冀魯豫軍區(qū)第四縱隊(duì)，陳賡擔(dān)任司令員，謝富治任政治委員。下轄第十旅、第十一旅和第十三旅，旅長分別是周希漢、李成芳和劉金軒。部隊(duì)成立后很快投入同蒲路南段作戰(zhàn)，阻擊國民黨軍沿鐵路北進(jìn)的企圖。

1946年上半年，第四縱隊(duì)繼續(xù)在晉南地區(qū)活動(dòng)。3月，長子獨(dú)立團(tuán)等地方武裝編入第十旅，5月劉忠出任參謀長。6月下旬，中央軍委直接指揮這支部隊(duì)執(zhí)行晉南方向任務(wù)。它和太岳軍區(qū)部隊(duì)配合，在呂梁軍區(qū)支持下，先后取得聞夏戰(zhàn)役和臨浮戰(zhàn)役勝利。臨浮戰(zhàn)役中，第四縱隊(duì)全殲國民黨整編第一旅，俘獲中將旅長黃正誠。這一仗讓延安解放日?qǐng)?bào)專門發(fā)表社論，向太岳縱隊(duì)致敬，也讓四縱的威名傳開。

戰(zhàn)役結(jié)束后，部隊(duì)又參加呂梁和汾孝戰(zhàn)役，牽制國民黨第一戰(zhàn)區(qū)兵力，配合陜甘寧解放區(qū)防御。1947年4到5月，第四縱隊(duì)在晉南展開攻勢，殲滅國民黨軍1.4萬余人。5月，太岳軍區(qū)第二十四旅改稱第十二旅，列入第四縱隊(duì)序列。7月王啟明擔(dān)任參謀長。這些連續(xù)作戰(zhàn)讓部隊(duì)積累了更多經(jīng)驗(yàn)，也繳獲了不少武器，火力配置逐步加強(qiáng)。

1947年7月27日，中央軍委決定以第四縱隊(duì)、第九縱隊(duì)和西北民主聯(lián)軍第三十八軍組成陳謝集團(tuán)，由陳賡、謝富治指揮。8月22日夜，集團(tuán)主力從晉南垣曲和濟(jì)源之間強(qiáng)渡黃河。

第四縱隊(duì)作為第一梯隊(duì)，避開原有渡口，選擇新點(diǎn)實(shí)施渡河。部隊(duì)控制灘頭陣地后，迅速向豫西展開，切斷隴海鐵路，威脅洛陽和西安方向。這次行動(dòng)開辟了豫陜鄂解放區(qū)，有力配合了其他戰(zhàn)場的戰(zhàn)略進(jìn)攻。

渡河之后，第四縱隊(duì)在潼關(guān)洛陽之間往返機(jī)動(dòng)作戰(zhàn)。10月轉(zhuǎn)戰(zhàn)伏牛山麓，同時(shí)抽調(diào)人員組建豫西軍分區(qū)。第十二旅組建第四軍分區(qū)，第十旅和第十三旅部分力量參與第六和第七軍分區(qū)建設(shè)。

1948年3月，部隊(duì)參加洛陽戰(zhàn)役，第十三旅第三十七團(tuán)第七連第一班和第十旅第二十八團(tuán)第五連分別獲得洛陽英雄班和洛陽英雄連稱號(hào)。這些行動(dòng)讓豫西地區(qū)逐步變成穩(wěn)固根據(jù)地。

1948年5月，晉冀魯豫野戰(zhàn)軍第四縱隊(duì)改稱中原野戰(zhàn)軍第四縱隊(duì)，仍歸陳謝集團(tuán)指揮。隨后參加宛西和宛東戰(zhàn)役，豫陜鄂解放區(qū)進(jìn)一步鞏固。到淮海戰(zhàn)役前，第四縱隊(duì)編制在中原野戰(zhàn)軍里規(guī)模最大，下轄五個(gè)旅，兵力超過四萬多人。第十旅作為核心，戰(zhàn)斗經(jīng)驗(yàn)最豐富。部隊(duì)在豫西作戰(zhàn)中繳獲山炮和重機(jī)槍較多，每個(gè)營通常配備四個(gè)步兵連加一個(gè)機(jī)炮連，營級(jí)火力配置在當(dāng)時(shí)屬于突出水平。

1948年11月淮海戰(zhàn)役打響，黃維兵團(tuán)從河南確山和駐馬店出發(fā)，向安徽阜陽宿縣方向前進(jìn)。11月23日，第四縱隊(duì)在南坪集地區(qū)正面阻擊。部隊(duì)依托陣地抵抗一天，當(dāng)晚主動(dòng)后撤，誘敵渡過澮河進(jìn)入預(yù)設(shè)袋形陣地。24日黃昏，中原野戰(zhàn)軍全線出擊，將黃維兵團(tuán)包圍在雙堆集為中心約7.5公里區(qū)域內(nèi)。第四縱隊(duì)隨后轉(zhuǎn)入東集團(tuán)，擔(dān)任攻堅(jiān)主力。

12月5日，總前委下達(dá)總攻命令。東集團(tuán)由陳賡統(tǒng)一指揮，任務(wù)是殲滅雙堆集以東沈莊、李圍子等地區(qū)之?dāng)场?日16時(shí)30分，總攻開始。第四縱隊(duì)和第九縱隊(duì)、第十一縱隊(duì)一起，從北向南推進(jìn)，采取近迫作業(yè)挖掘戰(zhàn)壕，以地堡對(duì)地堡方式壓縮敵軍。部隊(duì)利用工兵發(fā)明的飛雷炮拋射大威力炸藥包，對(duì)付國民黨軍堅(jiān)固工事。這種方法在近距離攻堅(jiān)中起到重要作用。

戰(zhàn)斗進(jìn)入白熱化階段，12月13日黃維兵團(tuán)被壓縮在狹長地帶。15日午夜，部隊(duì)發(fā)起最后沖擊，全殲黃維兵團(tuán)。第四縱隊(duì)在阻擊、合圍和攻堅(jiān)各階段都承擔(dān)了關(guān)鍵任務(wù)，傷亡較大，但通過及時(shí)補(bǔ)充保持了戰(zhàn)斗力。戰(zhàn)役結(jié)束后，部隊(duì)士氣高漲，為后續(xù)作戰(zhàn)做好準(zhǔn)備。這次作戰(zhàn)也驗(yàn)證了四縱在編制和火力上的優(yōu)勢，讓它在中野各縱隊(duì)中繼續(xù)保持突出地位。

1949年2月，全軍統(tǒng)一整編。中原野戰(zhàn)軍第四縱隊(duì)主要改編為第二野戰(zhàn)軍第十三軍和第十四軍，編入第四兵團(tuán)序列。陳賡擔(dān)任兵團(tuán)司令員兼政治委員。周希漢和李成芳等原旅長繼續(xù)指揮部隊(duì)。整編后，第十三軍和第十四軍參加渡江戰(zhàn)役，解放南昌，隨后轉(zhuǎn)戰(zhàn)兩廣。1949年底到1950年初，部隊(duì)進(jìn)軍云南，參與滇南戰(zhàn)役，1月13日先頭部隊(duì)奔襲蒙自機(jī)場，切斷敵軍空中逃路。

2月19日，云南全境解放，部隊(duì)將勝利旗幟插到邊陲。陳賡1955年被授予大將軍銜，1961年因病逝世。原四縱骨干力量在新的編制下，繼續(xù)執(zhí)行剿匪和邊防任務(wù)，為鞏固西南邊疆作出貢獻(xiàn)。第十三軍和第十四軍在后續(xù)作戰(zhàn)中保持了原有作風(fēng)，從長江南岸推進(jìn)到西南地區(qū)，完成了從戰(zhàn)略進(jìn)攻到全國勝利的轉(zhuǎn)變。