原名叶启亨，曾用名叶琛。原籍福建省南安县。1914年5月7日生于菲律宾奎松省一个华侨小商人家庭。1918年归国。1926年起先后就读于厦门中山中学和省立第十三中学。1928年5月加入中国共产主义青年团，年底离校从事秘密革命工作。1929年起任共青团福建省委宣传部部长和代理书记、福州中心市委书记。其间曾被捕入狱。1932年3月转入中国共产党。后到闽东地区参与创建苏区和建立游击队。1934年3月在中共福建省委遭到破坏、与中共中央失去联系的情况下，以特派员的身份，果断地主持召开会议，重建中共闽东特委，并成立中国工农红军闽东独立师。1935年起任中共闽东特委书记、闽东军政委员会主席兼红军闽东独立师政治委员，领导军民坚持了极其艰苦的三年游击战争。其间先后率部在闽浙边取得沙埕、桃杭等战斗的胜利，多次挫败国民党军的“清剿”，并在闽东地区恢复和重建了多块游击区。
抗日战争爆发后，任新四军第3支队6团团长，率部进入皖南敌后开展游击战争。1939年5月奉命率团与无锡、江阴等地游击队合编为江南抗日义勇军，任副指挥。6月指挥夜袭浒墅关车站，使宁沪铁路线一度中断。继于7月下旬突袭上海虹桥日军机场，烧毁敌机4架。后与丹阳游击纵队合编为新四军挺进纵队，任纵队政治委员兼副司令员，旋即北渡长江，在扬州、泰州地区开展抗日斗争，参与开辟苏北抗日根据地。1940年7月任新四军苏北指挥部第1纵队司令员兼政治委员。10月在黄桥战役中，率部适时出击，经3小时激战，全歼国民党顽固派军队韩德勤部独立第6旅，并协同兄弟部队歼灭韩部主力第89军。1941年皖南事变后，任新四军第1师第1旅旅长兼政治委员和苏中第3分区中共地委书记、副师长，参与指挥苏中地区反“扫荡”、反“清剿”和反“清乡”作战。1944年3月指挥车桥战役，以围点打援的战法，歼灭日伪军近千人，打通了与苏北、淮南、淮北地区的战略联系。1945年起任第1师师长兼苏中军区司令员和中共苏中区委书记、苏浙军区副司令员，参与指挥天目山反击战。解放战争初期，任山东野战军第1纵队司令员，率部收复泰安、大汶口，参加胶济路反击战和宿北、鲁南战役。1947年2月起任华东野战军第1纵队司令员兼政治委员、第1兵团副司令员兼第1纵队司令员，率部参加了莱芜、孟良崮、豫东、济南、淮海等重要战役。1949年2月任第三野战军第10兵团司令员。4月参加渡江战役，率部解放丹阳、常州、无锡和苏州。5月参加上海战役后，率10兵团进军福�