1928年,叶飞加入中国共产主义青年团,担任共青团福建省委宣传部部长、代理团省委书记。开始从事秘密革命工作。
1932年3月,叶飞加入中国共产党,参与创建闽东革命根据地和红军游击队。叶飞在中共福建省委遭到破坏、与中共中央失去联系的情况下,以特派员的身份,果断地主持召开会议,重建中共闽东特委,并成立中国工农红军闽东独立师。粉碎了国民党当局的多次围剿。
抗日战争爆发后,闽东红军改编为新四军。叶飞历任新四军第三支队第六团团长,挺进纵队政治委员,新四军第1师第1旅旅长兼政治委员,第1师师长兼苏中军区司令员等职。解放战争爆发后,任山东野战军第1纵队司令员,率部收复泰安、大汶口,参加胶济路反击战和宿北、鲁南战役。
1947年2月,起任华东野战军第1纵队司令员兼政治委员、第1兵团副司令员兼第1纵队司令员,率部参加了莱芜、孟良崮、豫东、济南、淮海等重要战役。
1949年2月,叶飞任第三野战军第10兵团司令员。4月参加渡江战役,率部解放丹阳、常州、无锡和苏州。5月参加上海战役后,率10兵团进军福建,先后发起福州、漳(州)厦(门)战役。8月兼任福建军区司令员,组织指挥部队清剿国民党残余武装和土匪。