时，就有意引为知己，而且这几个人一生关系不错。所以，李济深被称为半个桂系。13师的师长徐景唐，和李军长一样，和桂系不分你我，好得象一个人。但是，另外的3个师长和那个独立团的团长就和李济深不是一条道了。这几个人是地道的广东人，对广西人的军长和广西的实力派纠缠不清、人在粤而心在桂很反对。陈铭枢和蒋介石关系很好，是有名的蒋派人物；陈济棠则是一个总想当“土皇帝”的人；张发奎是将汪精卫视为精神领袖的著名的汪派人物；叶挺是个有名的共产党人。
成名后的“铁军”进行了扩编，1926年11月27日该军第10师被扩编为国民革命军11军。以第12师一部扩编为25师，师长朱晖日。1927年4月大名鼎鼎的张发奎接任军长，黄琪翔接任副军长兼12师师长。
1927年5月，“铁4军”参加了国民政府第二次北伐，在北伐中歼灭奉军第11军主力1万余人。奉军其中投降的部队被改编为第4军第21师，师长富双英（原奉军第11军副军长）。6月15日黄琪翔接任军长。缪培南接任副军长兼12师师长。李汉魂接任25师师长。“铁4军”此时发展到超过5个师，4。2万余人。
1927年蒋粤矛盾公开化，同年7月第4军东征讨伐蒋介石，但被蒋介石的中央军以及湘军（唐生智第8军）联合击败，第4军第21师几乎被全歼，该师余部被唐生智第8军收编，但第4军其余各部均战胜了中央军和湘军，蒋湘联军凭借人数上的优势渐渐占了上风，第4军在到达九江后撤回广东，此役铁4军伤亡9000余人，中央军和湘军则付出了更为严重的伤亡（一共付出了2万人的伤亡代价）。
张发奎、黄琪翔既不满蒋介石，又强烈反对把汪精卫挤走的桂系。他们想为汪精卫打出一块根据地，让汪有实现抱负的基础。他们跟随叶挺的南昌起义军等回粤，攻叶不积极，回到广东却私请汪精卫赴粤，并改组广东政府，与李济深争权。在以解决党内矛盾纠纷的借口下，张发奎、汪精卫等用计把李济深骗出了广东，让李济深到上海参加国民党二届四中全会，他们则在广东全面夺权，并提出了打倒桂系军阀、打倒特委会（桂系把持）、打倒西山会议派（桂系的政治搭档）等口号，并改造广东军政。
回到广东后，第4军进行了整训，补充新兵员，换装备，战斗力得到了加强，这个时候该军序列为：军长黄琪翔，副军长缪培南，参谋长叶剑英。下辖12师，师长缪培南兼任。25师，师长李汉魂。26师（原属第11军，8月调隶第4军），师长许志锐。教导2师（8月新编），师长为抗战时期著名的薛岳。教导4师（8月新编），师长黄慕松。“铁4军”全军高达5。12万人，是中国大地上编制最大的一个军。另外原留广东的11师和13师独立出第4军，这2个师被改编为新编第4军（注：这与抗战时期的共产党新4军不一样），军长李济深，这个新编第4军也有2万之众，也就是说在广东出现了两个“4军”，也就是说出现了参加北伐的“铁4军”（黄琪翔）和留守广东的“新4军”（李济深）两个派系。桂系及半个桂系的李济深，将张发奎等视为叛徒，将4军视为叛军，下令围剿。张发奎于1927年11月17日兴兵将黄绍竑的桂军驱逐出广东，李济琛所部新编第2、4师被张收编。
这个时候，“铁4军”内部再次出现了分裂。1927年12月11日，“铁4军”参谋长叶剑英、叶挺率4军教导团及军部警卫团举行广州起义。起义后，张发奎、黄琪翔受国民党内外之责难辞职。军长由缪培南接任，薛岳接任副军长，吴奇伟接任12师师长。教导2师改番号教导1师，邓龙光接任师长。教导4师改番号教导2师，黄镇球接任师长。全军实力没有因为广州起义而损失，反而因为继续扩编而兵力参加，“铁4军”此时兵力已经发展到5。5万余人，人数成为中国大地上军一级单位的“巨无霸”。
但是极盛下来的就是衰落。在中国大地上，除了“铁4军”外，还有另一支与其并列的精锐部队，那就是“铁4军”昔日的战友——广西的“钢7军”。此时，粤军李济深部“新4军”与缪培南部“铁4军”的矛盾也开始激化，但是李济深深知自己的部队绝对不是“铁4军”的对手，要想打败“铁4军”，就必须得到“钢7军”的帮助。
1928年1月，李济深和桂系李宗仁达成合作协议，桂军“钢7军”3个师和李济深部第13师（师长徐景唐，该师为李济深的嫡系，李济深本人为广西人，第13师主要也是以李的家乡广西梧州士兵为主，所以历史学家也有把该师称为桂军，师长徐景唐本身也倾向桂系，第13师全师9000余人，桂军“钢7军”3个师当时每个师人数大致也是这个数）一共3。7万余人围攻缪培南的“铁4军”，其中以“钢7军”3个师为主力。
张发奎、黄琪翔虽已通电下野，但仍遥控指挥，4军名义上指挥是薛岳和朱晖日。初时，“铁4军”风头甚劲，打跑了陈济棠和陈铭枢，以至于夸下海口，高喊要“活捉陈和尚”（因陈铭枢曾学佛，有陈和尚之称），“生劏陈瘟猪”（陈济棠外号，生劏是广东话：活活杀死）。12月下旬，缪培南率独1师邓龙光、独2师黄镇球，12师吴奇伟，25师李汉魂，26师许志锐5个师，向东江的紫金、五华北上，此时桂系将领黄绍竑率桂军伍廷飙、黄旭初、吕焕炎3个师及粤军徐景唐师赶到，在五华之歧岭、潭下一线，“钢7军”主力2。7万余人与“铁4军”主力4。5万余人（“铁4军”另有1个师用于对付李济深部第13师）进行了5天5夜的激战，双方反复肉搏，昔日北伐的亲密战友此时变成了兵戎相见的敌人，五华一线顿时尸山血海，“铁4军”虽有人数上的优势，但是仍被“钢7军”击败，26师师长许志锐阵亡，五华一役，“铁4军”付出了2万余人的伤亡代价而败退，但是“钢7军”紧紧追击，在龙川贝岭，“铁4军”再次遭到“钢7军”的重创，又损失了近1万人，另李济深部第13师也击溃阻击他们的“铁4军”一部。五华和龙川贝岭两次恶战，“铁4军”遭到了自建军以来最惨痛的损失，该军原先5。5万人，仅剩下2万人，损失了近3。5万人。“铁4军”遭到了“钢7军”毁灭性的打击。此役桂军伤亡8000余人。
此役后，“铁4军”被迫退出广东进入江西驻防。从此“第4军”这个军的番号在粤军中暂时告一段落，此时第4军已经被蒋介石编入了他的中央军中。第4军变成中央军后参加了对奉军的作战，表现中规中矩。战争结束后被缩编为第4师。师长缪培南，副师长朱晖日，下辖谢婴白10旅、黄镇球11旅、吴奇伟12旅。此时，“第4军”这个番号在中国大地上已经被取消。
1929年9月初，4师突然接到蒋介石的电令，要他们将宜昌防务交曹万顺的新1师后，经浦口调往山东的德州。张发奎以为这个命令是要乘机解决第4师，于9月20日在宜昌拥汪反蒋、脱离中央而被撤消番号。第4师脱离中央军南下，在鄂南枝江伏击缴了新编第1师曹万顺部（2个团）的械，而后，立即渡长江，经石门、沅江、江口、瓦屋塘诸役。突破湘军阻击，由湘西撤入广西，联合在广西的桂系力量，组成护党救国军，以李宗仁为总司令，黄绍竑任副总司令，白崇禧任前敌总指挥，下辖第三、八路军。张发奎第4师编为第三路军，总司令张发奎，副总司令薛岳。
张发奎与桂系联合，决定先击败广东陈济棠部，占领广东，后再对蒋作战。桂张军集中全部兵力4万余人向广东方向进攻，此时统治广东的是陈济棠，陈部手下虽然只有5个师的番号，但是每个师人数均不下2万人，陈部拥兵正规军10万，后备军不下20万，装备精良。面对桂张军的进犯，陈济棠命令驻守粤西的蒋光鼐61师、蔡廷锴60师共4万人分别阻击桂张军，以余汉谋第59师、香翰屏第62师、李扬敬第63师，外加陈济棠建立的部分后备军，一共12万人马放于第二线，随时增援蒋光鼐、蔡廷锴。
桂张军毕竟是“铁4军”和“钢7军”的组合，人数虽少但战力凶猛，连续击败蒋光鼐、蔡廷锴部，整个粤西几乎全部被桂张军占领，陈济棠急忙派余汉谋、香翰屏、李扬敬部6万人增援蒋光鼐、蔡廷锴，粤军终于在赤白坭地区勉强顶住了桂张军的进攻，但粤军各部仍然有被击溃的危险，陈济棠见自己的部队人数虽多，但是战斗力不及桂张军强悍，急向蒋介石求援，蒋急派中央军精锐的朱绍良部1。5万人增援陈济棠，并命令湘军从北牵制桂军。得到中央军和湘军支援的陈济棠部粤军进行了反击，桂张军与陈济棠粤军、朱绍良部蒋军在花县进行了大战，双方都有极为严重的伤亡，其中陈济棠粤军在赤白坭地区重创了张发奎部，张部旅长黄镇球、团长欧震等均已负伤，营连干部伤亡过半，部队损失三分之二，第4师2万人只存下8000人，被迫后撤。张部的溃败，使李宗仁的第八路军翼侧受到威胁，遂全线后撤，拟固守梧州。陈济棠当即督部长驱直追，并以海军抢先古领了梧州，桂张军主力只好后退到平乐、荔浦一带集中整顿。陈济棠见桂张军主力已集中，未敢深入桂境，就在梧州设总指挥部，军队就地休整，以待时机。
1930年初，第4军的番号再次回到粤军当中。当年1月5日，李宗仁在广西平乐整编部队，恢复了4军番号，仍由张发奎担任军长，张发奎部改编为第4军，下辖李汉魂第4师和邓龙光第12师，全军1。5万人。1930年3月，陈济棠坐镇梧州，指挥粤军继续向广西腹地进攻。命蒋光鼐，蔡廷锴两师经藤县进占三和墟，向北流的黄绍竑桂军15军发起攻击。在桂北和桂东，桂张军与蒋粤联军大战十几场不分胜负，其中在北流一线的战斗最为激烈，双方在北流一线进行了一次最大规模的激战，陈济棠粤军集中主力7万余人，在此地与桂张军主力3万余人进行了两天两夜的血战，双方都有严重的伤亡。4军北流之役损失惨重，被迫合并为1个师，仍称第4师，师长张发奎兼任，下辖3个团：34团（团长吴奇伟）、35团（团长薛岳）、36团团长（韩汉英）。蒋桂战争以桂系失利告终，二陈（陈济棠、陈铭枢）还占了不少广西地盘，桂系的几大巨头不得不亡命海外。而徐景唐的队伍全被陈济棠收编了。
1930年5月，中原大战爆发。李宗仁、白崇禧和张发奎得到这个消息后，立即在南宁举行会议，决定放弃广西，挥师湖南，北上武汉，与冯玉祥、阎锡山会师中原。下旬，桂军向桂东集中，正在右江围剿红军的黄绍竑部也被调回。张桂军入湘后，所到之处如入无人境。27日，湘军唐生明（唐生智之弟）率部向桂军投诚，被李宗仁编为第8军。湘军刘建绪部节节败退，张桂军不战而入衡阳，蒋介石急令江西鲁涤平率部入湘增援。6月初，李宗仁与白崇禧率第7军向长沙方向前进。为配合桂军行动，第4师奉命抄袭醴陵，在醴陵城南渌水三角地带同湘军何键3倍于己之众遭遇。第4师以34、36团从正面进攻，牵制住了湘军主力；薛岳则率35团从右侧迂回湘军右侧背，直插醴陵城南铁道桥，切断了湘军的唯一退路。何键这下慌了手脚，立即命令部队后撤。第4师乘机前后夹击�