皖南事變發生，湯恩伯等頑固派對豫皖蘇的新四軍也行進了殘酷的圍攻，很快四師的部隊就處于日、偽、頑軍重兵夾擊之中，指戰員傷亡嚴重。為了抗日大計，為了脫離與國民黨頑固派的磨擦，彭雪楓按照新四軍軍部的指示，率第四師撤退到津浦路東，忍痛離開了他一手創建的豫皖蘇根據地。