后來陳毅在5月10日陪同解放軍總司令朱德赴華東野戰(zhàn)軍總部駐地濮陽，但直到朱德離開兩天后的5月20日，他還沒有動身前往中原就職。中共中央于5月21日致電陳毅，指示：“陳毅不參加此次作戰(zhàn)（豫東戰(zhàn)役）”，敦促他“盡可能迅速偕同（鄧）子恢及大批干部去豫西和劉鄧會面，建立中原軍區(qū)及中原局經(jīng)常工作”。5月28日，當粟裕率領華東野戰(zhàn)軍指揮機關與軍委后勤部長楊立三同行，轉(zhuǎn)往魯西南城武地區(qū)時，《陳毅傳》記載有這樣一段話：

陳毅托楊立三把繳獲的交直流電兩用的收音機一臺帶去中央送給“（周）恩來、小超（鄧穎超）”，并附一信說：“此美國新出品、許昌戰(zhàn)斗繳獲品，你們有電燈，利用其開動起來十分好，兩夫婦可以在屋內(nèi)跳舞?！币簿褪窃谶@信內(nèi)，卻寫著一句耐人尋味的話：“明日即西去，毫無企圖留部隊之意，并望將來能隨軍入川”。此信是陳毅5月29日親筆。周恩來閱后，特意親筆批轉(zhuǎn)毛澤東、劉少奇、朱德、任弼時等書記處成員傳閱。他們都圈閱了，不知是誰還在“毫無企圖留部隊之意”這一句的旁邊用毛筆劃粗杠一道以示值得重視。

陳毅抵達中原軍區(qū)后，還說：“東有粟裕指揮，西有劉伯承坐鎮(zhèn)，我閑著無事，就去辦一所大學吧?！?/p>

同樣，中共中央的組織大調(diào)整，粟裕也毫無思想準備。在軍委和毛澤東“戰(zhàn)役指揮交粟裕負責”的明確指示下，華東野戰(zhàn)軍司令員陳毅恢弘大度，十分支持粟裕的戰(zhàn)役決策和戰(zhàn)役指揮。在戰(zhàn)役發(fā)起以后，他常常離開指揮室，說：“我離開這里很必要，免得粟司令事事向我報告，延誤時間?！边@一點令粟裕心情舒暢。而且，陳毅在資歷上比張鼎丞更老，此次陳毅調(diào)中原，中央明確分工是管后勤，即“建立中原軍區(qū)及中原局的經(jīng)常工作”，粟裕認為這不是陳毅的特長。

因此，粟裕以其一貫的與人為善的謙抑，向毛澤東請求：“陳毅同志無論如何不能離開華野。”毛澤東說：“中央已經(jīng)決定了，陳毅同志和鄧子恢同志到中原局、中原軍區(qū)工作，華野還是你來搞?！彼谠Ｖ缓锰岢隽俗詈蟮恼埱螅宏愐阃驹谌A野的司令員兼政委職務繼續(xù)保留。毛澤東沉思片刻，同意了粟裕的意見。此后粟裕成為華野的代司令員兼代政委。這是歷史上影響到粟裕后來評級、授銜的“二讓司令”。讓掉司令員之名，卻勇敢地擔負司令員之責，功名歸于他人，職責留給自己，這是何等高尚的情操！值得指出的是，這次謙讓，因無正式司令員的名義，也客觀上導致了粟裕知名度較低，后來戰(zhàn)功還被淡化、轉(zhuǎn)移以至于磨滅。

1948年10月下旬，在淮海戰(zhàn)役即將打響的時候，為發(fā)揮華東、中原兩大野戰(zhàn)軍的整體威力，粟裕向軍委建議，由配合華東野戰(zhàn)軍作戰(zhàn)的陳毅、鄧小平統(tǒng)一指揮淮海戰(zhàn)役。中央同意后，在此基礎上，又于戰(zhàn)役發(fā)起10天后組成了淮海戰(zhàn)役總前委。兩軍聯(lián)合作戰(zhàn)，最要緊的是緊密團結與協(xié)調(diào)統(tǒng)一。由于歷史的原因，解放軍內(nèi)部是存在大大小小的山頭的。毛澤東說，只有承認山頭，才能消滅山頭。兩軍會合在一起作戰(zhàn)，難免會生出種種問題?！凹t一方面軍和紅四方面軍長征途中懋功會師的教訓曾令后來的部隊害怕會師。懋功會師，一方面由于張國燾的軍閥主義傾向，向黨伸手要軍權，另一方面也由于會師工作沒做好，沒有注意團結，致使兩軍由歡呼會師很快分道揚鑣，各奔前程?！焙茱@然，粟裕是注意到了這些方面的?；春?zhàn)役是華東野戰(zhàn)軍代司令員兼代政委粟裕建議并首先發(fā)起的，初期參加淮海戰(zhàn)役的部隊，主攻戰(zhàn)場是粟裕率領的華東野戰(zhàn)軍15個縱隊、暫歸粟裕指揮的中原野戰(zhàn)軍第11縱隊共16個縱隊。陳毅、鄧小平率領的中原野戰(zhàn)軍4個縱隊配合華野作戰(zhàn)。按照慣例，在一次戰(zhàn)役中，幾支部隊聯(lián)合作戰(zhàn)，一般是主要方向上的指揮員指揮次要方向上的指揮員，先打響的部隊指揮員指揮后打響的部隊指揮員，兵員多的指揮員指揮兵員少的指揮員。在中央尚未做出由誰統(tǒng)一指揮的決定以前，粟裕主動提出由陳毅、鄧小平統(tǒng)一指揮的建議，對于順利解決南線決戰(zhàn)的指揮問題做出了重要貢獻，再次表現(xiàn)了他大公無私、光明磊落的高尚品德。針對后來有人對中原野戰(zhàn)軍不服氣的現(xiàn)象，粟裕還于1949年1月20日在華東野戰(zhàn)軍前委擴大會議上批評：“今后在作戰(zhàn)中，我們要與兄弟野戰(zhàn)軍很好地配合，向兄弟野戰(zhàn)軍虛心學習。此次，有些同志認為中原野戰(zhàn)軍打黃維兵團打了多少天未打下，這種認識是錯誤的。……我們應該向人家虛心學習，不容許有驕傲現(xiàn)象。在以后配合作戰(zhàn)中，大家要愿意多吃一點虧，愿意受人家指揮。團結是雙方面的事情，別人要團結，你不要團結，就團結不好；要尊重人家，才能團結好?！?