同年10月18日，秦军前锋攻占寿阳。胡彬所部水军走到半路，得知寿阳失守，退守硖石（在寿县西北25里）。秦军为了阻挡晋军主力西进，又派兵5万进至洛涧（今安徽怀远县以南之洛水），并在洛口设置木栅，阻断淮河交通。胡彬因困守硖石，粮食用尽，处境十分艰难，写信要求谢石增援。不料胡彬的求援信也被秦军截获。由此苻坚判断晋军兵力很少，粮食十分困难，应该抓紧进攻，遂把主力留在项城（今河南项城），只带了8000骑兵赶到寿阳。苻坚先派尚书朱序到晋军劝降。朱序原来是东晋防守襄阳的将领，襄阳失守时被俘。朱序到晋军以后，不仅没有劝降，反而透露了秦军情况，并且建议说，如果秦兵百万全部到达，晋军难以抵抗，现在应趁它还没有到齐，迅速出击，打破它的前锋，大军就会溃散。
听过朱序的建议，晋军将领谢石、谢玄于11月派猛将刘牢之率领精兵5000进攻洛涧。刘牢之分兵一部到秦军侧后，断敌退路，亲自率兵强渡洛涧，夜袭秦军大营。秦军果然抵挡不住。主将梁成战死，5万秦兵大溃，抢渡淮水，淹死1.5万余人。洛涧的胜利，鼓舞了晋军的土气。晋军水陆并进，展开全线反攻。苻坚在寿阳城上，看到晋军严整，攻势猛烈，十分恐惧，竟然把淝水东面八公山上的草木都当成了晋兵。