同年10月18日,秦军前锋攻占寿阳。胡彬所部水军走到半路,得知寿阳失守,退守硖石(在寿县西北25里)。秦军为了阻挡晋军主力西进,又派兵5万进至洛涧(今安徽怀远县以南之洛水),并在洛口设置木栅,阻断淮河交通。胡彬因困守硖石,粮食用尽,处境十分艰难,写信要求谢石增援。不料胡彬的求援信也被秦军截获。由此苻坚判断晋军兵力很少,粮食十分困难,应该抓紧进攻,遂把主力留在项城(今河南项城),只带了8000骑兵赶到寿阳。苻坚先派尚书朱序到晋军劝降。朱序原来是东晋防守襄阳的将领,襄阳失守时被俘。朱序到晋军以后,不仅没有劝降,反而透露了秦军情况,并且建议说,如果秦兵百万全部到达,晋军难以抵抗,现在应趁它还没有到齐,迅速出击,打破它的前锋,大军就会溃散。
听过朱序的建议,晋军将领谢石、谢玄于11月派猛将刘牢之率领精兵5000进攻洛涧。刘牢之分兵一部到秦军侧后,断敌退路,亲自率兵强渡洛涧,夜袭秦军大营。秦军果然抵挡不住。主将梁成战死,5万秦兵大溃,抢渡淮水,淹死1.5万余人。洛涧的胜利,鼓舞了晋军的土气。晋军水陆并进,展开全线反攻。苻坚在寿阳城上,看到晋军严整,攻势猛烈,十分恐惧,竟然把淝水东面八公山上的草木都当成了晋兵。