1926年7月9日，国民革命军在广州誓师北伐。然而，早在此前一个多月，就有一支部队已经率先出发，孤军深入湖南，与北洋军阀吴佩孚部展开激战。这支勇当北伐先锋的部队，就是中国共产党领导的第一支革命武装——国民革命军第四军独立团。这支部队的骨干大多数是共产党员和青年团员，团长由共产党员叶挺担任，因此又被称为叶挺独立团。它的前身是1924年11月由周恩来亲自组建、中共广东区委直接领导的“建国陆海军大元帅府铁甲车队”。这支装备着铁甲车的劲旅作为“铁军”的起源，堪称是名符其实。
部队出师北伐前，周恩来亲自来到独立团作战前动员。他要求党团员和广大官兵发挥先锋模范作用，吃苦耐劳，英勇奋战，不怕牺牲，同时注意发动群众，团结友军，做好政治工作，并用“饮马长江，武汉见面”来激励全体官兵。
战斗打响后，叶挺独立团像一把锋利尖刀，连克攸县、醴陵、浏阳等地，直捣湖北境内，截断粤汉铁路，逼近鄂南门户汀泗桥。吴佩孚急忙调主力南下，据险死守汀泗桥，与第四军展开激战。正当双方相持不下时，叶挺独立团却在鄂南当地农民引导下，抄小路绕道古塘角，从敌军后方展开奇袭。共产党员聂鸿均组织农军和破路队、向导队，配合第四军主力从正面发起全线总攻，终于使敌军全线崩溃，独立团乘胜追击，于8月27日一举攻占咸宁。两天后，叶挺独立团又担任正面主攻任务，与第四军各部及第七军合力强攻敌军主力据守的贺胜桥。尽管吴佩孚亲自督战，斩杀败退的旅长、团长数人悬首示众，仍然无法阻止官兵雪崩式溃退。鄂南民众箪食壶浆，积极为北伐军送饭、送信、带路、运伤员、修工事，“贺胜桥鸡汤”由此美名传扬。
9月3日，北伐军开始进攻武昌城。第4军独立团和第10师、第12师等部队中的共产党员、共青团员冒着枪林弹雨，舍生忘死，奋勇争先。独立团一营营长、共产党员曹渊头部中弹阵亡。全营官兵前仆后继，仅幸存10余人。攻克武昌后，独立团将在战斗中牺牲的191名烈士埋葬在洪山脚下，墓碑上刻有“精神不死”“先烈之血主义之花”“无产阶级的牺牲者”“诸烈士的血铸成了铁军的荣誉”等碑文，作为永久纪念。
鉴于第4军英勇善战，纪律严明，武汉粤侨联谊社同仁于1927年1月赠给第4军一面铁盾牌。正面铸有“铁军”两个大字，背面铸有四言题词：“烈士之血，主义之花，四军伟绩，威震迩遐。能守纪律，能毋怠夸。能爱百姓，能救国家。摧锋陷阵，如铁之坚，革命抱负，如铁之肩。功用若铁，人民倚焉，愿寿如铁，垂忆万年。”
“铁军”由此名扬天下。6个多月后，这支铁军的主力又按照党的指示从武汉出发参加南昌起义，谱写了创建人民军队的新篇章。
