1937年12月，来势汹汹的日军第6师团主力在进攻雨花台的一起，谷寿夫派出第45联队（欠第1大队）迂回到上新河（上河镇）、水西门、清凉山一带，并占据了下关，妄图一举堵截南京守军退路。

  为了增强第45联队独立作战才能，谷寿夫指令马队第6联队 (猪木近太中佐）和配属师团的独立山炮兵第2联队（原山鹤吉中佐）帮忙第45联队作战。

  1937年12月10日18时，日军第45联队和独立山炮兵第2联队，每个步枪兵在带着 120发子弹、炮兵每门山炮配100枚炮弹后，依照第3大队、联队本部、第2大队、马队第6联队、独立山炮兵第2联队（欠第2大队）的次序向上新河进军。

  我国方面，担任上新河、水西门、清凉山这一区域防护的，是宪兵副司令萧山令所指挥的约3个团的宪兵。

  依照萧山令的布置，宪兵教训团（周竞人）为第一线营（郭干武兼团附）附宪兵第5团重机枪连守备于上新河、棉花堤一带；宪兵教训团第2营（马崇兴）、第3营（孙明斋）守备于水西门、汉中门至清凉山28号机枪掩体一带。

  宪兵第2团（罗友胜）为第二线，悉数守备在清凉山至山君洞一带，间谍营为预备队。宪兵第10团则悉数守备在明故宫机场一带。

  宪兵部队虽然是担任保持戎行纪律的部队（戎行中的差人）,但轻武器并不比野战部队差。

  宪兵教训团、宪兵第2团官兵佩带清一色德式M35钢盔，步枪选用中正式并配有少数MP18冲锋枪等主动火器，轻机枪则是捷克式和勃朗宁式，重机枪是三十节重机枪和进口的马克沁重机枪，而且还有少数的民二十式重机枪和82毫米迫击炮。

  但宪兵教训团是1937年年头在云南招募的新兵组成，加上宪兵毕竟是保持戎行纪律的，不属于野战部队，军官指挥才能、单兵本质都远不如野战部队，如不是因为守南京军力匮乏，宪兵也不会参与这次战争。

  牛首山、将军山丢掉后，唐生智考虑到宪兵实战才能弱，难以据守城南外偌大一片区域，便指令退守城内的第74军第51师、第58师别离派出1~2个团防卫水西门、江东门外一带。

  12月10日，宪兵教训团依然防卫原阵地，第58师抽调一个团军力，布置在宪兵教训团的左翼，第51师抽调第305团布置在第58师左翼，并与第88师第246旅右翼联络。

  12月11日早晨，日军第45联队穿越了茂盛的芦苇丛后，中止在间隔水西门以西3公里外的上新河、棉花堤一带。

  随后，竹下义晴以第3大队（小原重孝少佐）为第一线大队（成友藤夫少佐）为预备队，向上新河、棉花堤进军。

  接到指令的日军第3大队长小原重孝指令，以第9中队（前川参次大尉）、第 11中队（小園庄藏大尉）、第12中队（田中军吉大尉）、机枪第3中队（中村武治中尉）为第一线，向正面的我国守军建议进攻。

  战前，预感到战役将会非常惨烈的第12中队长田中军吉对手下的战士说道：“这次战役绝不亚于打保定的那场战役，你们要冷静稳定地冲入敌阵。”