镇外枪声大作，镇内专署机关干部全部惊醒跑了出来，打算突围。胡成赶紧派人告诉他们，敌人有备而来，肯定有重兵在外包围，现在突围肯定伤亡大，不是良策，只能坚守待援，不宜突围。
地方同志见已经有主力部队在阻击敌人，方安下心来，和主力部队一道阻敌。
上午8时许，日军从祠堂东、北两个方向，向镇内发起进攻，我军防守祠堂的4连一阵猛烈射击，很快将日军击退。
这时，已大天亮了，团长胡成见祠堂离镇中心还有一段距离，容易被敌军隔断，不宜坚守，便及时将4连后撤至镇东土围墙后阻敌。
这样，土墙成了我军的一道有力屏障，随后日军连发起几次冲锋，都被我军击退了。打了一上午，敌人仍然攻不进镇里。
日军屡攻屡败，重新调整力量后，变更攻击方向，转向冲击我军东北河堤阵地。这次，敌人又倒霉了，八路军早在那儿埋伏了部队。敌人哇哇乱叫着涌向桥头时，我军伏击部队一阵猛打后，冲进敌阵拼刺刀，一阵猛捅，把敌人压向一排茅屋内，不敢出来，只好困守待援。
午后3时许，敌军见祠堂口和东北河堤均攻不下，又调头向镇北桥头和北堤进攻，北桥头一时显得有些吃紧。胡成见北桥头火力不足，担心不能坚持，急令警卫连两个机动排用苇草伪装两条木船，由北河南岸放向北岸，突然偷渡濉河，扑上岸去猛攻北岸桥头和北岸泥堤西段，一下子就歼灭敌军50余人，缴获战马30余匹，牢牢守住了整个北堤。
守住北堤后，胡成团长急忙抽出部队增援东北角，组织交叉火力，射击日、伪军冲击部队，敌军始终无法靠前。
镇中居民见我新四军连连获胜，纷纷跑到河边向我军欢呼致意，我军倍受鼓舞，打得更加勇敢。
日、伪军猛攻青阳，打了一天没进展，不甘心失败。黄昏时，在重火力掩护下，日军竟单独组织一队精兵往东门冲，进到街口外一道缓坡巷道里。
胡成团长见情况危急，急令部队从房上扔下稻草、泼下煤油，轰地一声点燃，把涌进街口巷道的鬼子全烧死了。
敌人惨遭失败后，再不敢进攻，天黑尽后，慌忙流过镇南河，向西溃逃。行至马公店东，又被我早埋伏在那里的侦察排伏击，再遭射杀，逃回睢宁、泗县、灵壁，早已溃不成军。
青阳保卫战，是我军在皖东北根据地的一次抗战重大胜利，这次战斗主要是打日军，毙敌100余人，缴获各种枪支40余支、子弹3万多发，影响很大。
9月30日，韩德勤指挥所部89军、独立6旅总共1.5万人向驻守海安地区的新四军发动进攻。新四军从大局出发，退出姜堰，但韩德勤更加猖狂，于9月30日攻占营溪、加力市阵地，
10月1日进逼舍芦滹、任家庄一线，距黄桥仅30里。
陈帅急电黄大将，要他抽出一部分主力迅速南进支援。黄大将回电：“即刻出发”。
10月3日，毛委员关于黄大将部行动方针致电周副帅：
韩不攻陈，黄不攻韩，韩若攻陈，黄必攻韩。
10月4日，黄大将亲自到部队进行动员，韩参谋长根据黄大将的意图作战斗行军部署：