年5月，中央军委给华东和中原两大野战军下达了中原地区歼敌作战的任务，其中指出：“以歼灭5军（即整编第5师)为夏季作战之中心目标”，“粟裕全权指挥1、3、4、6、8及11纵之作战，并指挥许(世友)、谭(震林）在津浦线上之配合作战”；“各方协助粟兵团歼灭5军”。
也就是说，党中央瞄准了国民党五大王牌军之一的邱清泉第5军。
这时在中原战场上，国民党军集结有25个整编师(军)。其中，机动作战的有四个兵团，即邱清泉兵团在鲁西南，胡琏兵团在驻马店，孙元良兵团在郑州，张轸兵团在南阳。而邱清泉最狂妄，口出狂言：“活捉粟裕。”
粟裕收到中央来电后，经过分析敌情，认为歼灭第5军虽有一定有利条件，但不利因素多，主要是解放军尚未集中，打援兵力不足，又是背水作战，地形不利，不能稳操胜券。但是，敌开封守军兵力薄弱。于是，他暗中定下了一个“先打开封，后歼援敌”的作战方案。
“为什么不上报下达？”有人问。
粟裕说：“我已经提过三个纵队暂不过江的意见，不能总是不同意中央的决定吧。”
因为中央军委已有歼敌第五军为目标，粟裕的计划是，若歼第5军条件成熟，就给它个南北夹击；若条件不成熟，则可造成敌人错觉，然后出其不意打开封。于是，他下令第三、第八两个纵队自许昌地区向淮阳方向开进，吸引第5军南下；然后率五个纵队（包括特种纵队）南渡黄河，力求歼鲁西南敌一部，吸引第5军回头北上。
结果，华野第三、第八两个纵队向淮阳一动，邱清泉的第5军立即南下截击；不料粟裕又率华野五个纵队渡过黄河，蒋介石急令第5军主力北返，并增调3个整编旅到鲁西南，企图与粟裕决战。
于是，一时之间，鲁西南地区蒋军重兵云集，大战在即。
而这时向淮阳开进的华野第三、第八两个纵队已经进至离开封只有一日行程的通许、杞县地区。
打敌5军的条件不具备，打开封的时机却出现了。
6月16日，粟裕一面把自己“先打开封，再打援敌”的作战方案上报中央军委，一面下令主力部队立即向开封前进。
17日，中央军委复粟裕，完全同意他打开封的意见。这时华野大军已经兵临河南省会——开封城下。粟裕当即下令开始攻城。
敌人完全没料到解放军会打开封，开封守敌也认为“开封无真正战斗”。粟裕的这着棋，完全出乎敌人意料。
华野部队攻城，守军仓促应战。结果，解放军只用五个昼夜就攻克了蒋介石保证“绝对无虞”的开封城，全歼守敌3万人，并打援歼敌1万，共歼敌4万。这一战之巧妙，几乎令所有人都震惊。