長城抗戰(zhàn)失敗以后，蔣介石起用臭名昭著的親日分子黃郛到北平，協(xié)助何應(yīng)欽對(duì)日談判。5月3日，黃郛任委員長的“北平政務(wù)整理委員會(huì)”出籠，作為對(duì)日交涉的窗口，并對(duì)日表示：將包括河北、山東、山西、察哈爾、綏遠(yuǎn)五省及北平、青島兩市在內(nèi)的地區(qū)作為“特殊化”的第一步，“冀能利用其他手段，以試探弭兵息爭之可能性?！?/p>

5月22日午夜，黃郛的秘書李擇一接到日本大使館海軍武官藤原喜代間的電話，要黃郛立即不帶任何人前往面談。黃郛從電話上告知何應(yīng)欽已有“停戰(zhàn)”希望之后，只身前往藤原住所，徹夜談判，次日即接受了日方提出的四項(xiàng)條件。

黃郛離開藤原住所后，立即趕到居仁堂，向早已等候在那里的何應(yīng)欽說明交涉經(jīng)過和內(nèi)容。何應(yīng)欽聽后，明白日方條件的要害是使中國軍隊(duì)撤離山海關(guān)以南約200公里的地區(qū)。

此事關(guān)系重大，他便立即邀黃紹竑、張群、熊斌等會(huì)商。有人主張“堅(jiān)守北平”，有人提議“退守保定”，爭論不休。熊斌認(rèn)為“北平為文化古都，必須保全，倘輕易放棄，責(zé)任太大。似宜忍辱負(fù)重，姑且派員試行接觸”。此話正中何應(yīng)欽下懷，眾意也認(rèn)可。于是，何應(yīng)欽仍叫黃郛去轉(zhuǎn)告藤原，表示“同意”，又親筆寫一信交黃郛出示日公使館武官永津佐比重。隨后，何應(yīng)欽密電南京請(qǐng)示。南京國防會(huì)議認(rèn)為戰(zhàn)無把握，和又屈辱太甚，只好決定在“可戰(zhàn)可和兩面肆應(yīng)”。24日，汪精衛(wèi)電示何應(yīng)欽：“與日方洽商停戰(zhàn)，以不用文字規(guī)定為原則。如萬不得已，只可作為軍事協(xié)定，不涉政治?！焙螒?yīng)欽又致電在廬山的蔣介石，訴其苦衷：“熟權(quán)利害輕重，與其放棄平、津，使傀儡得資以組織偽政府，陷華北于萬劫不復(fù)，何若協(xié)商停戰(zhàn)，保守華北，徐圖休養(yǎng)生息，以固黨國之根基，較為利多害少?！裾胀粼洪L迭電指示之意旨，由應(yīng)欽答復(fù)日代辦，對(duì)其所提四項(xiàng)條件，完全接受?！毜葹辄h國，為地方人民著想，唯有犧牲個(gè)人，以求顧全大局，是非毀譽(yù)，所不計(jì)也?！?/p>

蔣介石接電后，不無猶豫，但也立即回電，雖擔(dān)心“停戰(zhàn)而形諸文字，總以為不妥”，“甚或東北三省及熱河字樣亦必雜見其中，無異割讓之承認(rèn)?！钡硎荆骸笆乱阎链耍笕?，原非得已，中正自當(dāng)負(fù)責(zé)。”蔣介石理解何應(yīng)欽的矛盾遑遽心情，當(dāng)天在日記中寫道：“今聞竟接受其要求矣！前途交涉，艱難必多。唯敢毅然承當(dāng)此任，其心苦矣，亦甚可佳！故余復(fù)電：仍由余負(fù)責(zé)，勿使其為難?！笔Y、汪均已表示負(fù)責(zé)，雖對(duì)妥協(xié)范圍有所限制，但不過文字游戲而已，何應(yīng)欽遂可放膽進(jìn)行妥協(xié)。

日軍為了加重談判的籌碼，于5月24日迫近順義、通州、香河，北平已處于三面被困之中。日本軍用飛機(jī)在北平上空飛來飛去示威。日方代表要求25日凌晨2時(shí)以前必須給予明確答復(fù)。何應(yīng)欽認(rèn)為北平的失陷已經(jīng)不可避免，準(zhǔn)備將北平軍分會(huì)撤到長辛店以南辦公，然后再派軍使進(jìn)行談判。何還作好了當(dāng)夜11時(shí)在西便門跑馬廠小火車站上車南撤的準(zhǔn)備。后因黃紹竑堅(jiān)決反對(duì)，提醒何應(yīng)欽注意：蔣介石只同意妥協(xié)，未明說可放棄北平，要是怪罪下來，誰個(gè)擔(dān)當(dāng)?shù)闷?？何才?jiān)定下來，要黃郛先與日本駐北平武官處取得聯(lián)系，商量選派軍使及談判事宜。

充當(dāng)乞求停戰(zhàn)的談判軍使，必將落下千古罵名，誰也不愿去。最后何應(yīng)欽只好指定軍分會(huì)作戰(zhàn)處上校徐祖詒為軍使。25日凌晨5時(shí)許，徐祖詒在日軍武官的監(jiān)護(hù)下，到密云會(huì)見關(guān)東軍第八師團(tuán)長西義一。所謂“談判”，不過是徐祖詒硬著頭皮在“關(guān)東軍司令官意志”的備忘錄上簽字而已。然后，西義一告知徐祖詒，給予何應(yīng)欽與國民黨政府五天時(shí)間進(jìn)行磋商，然后正式簽訂停戰(zhàn)協(xié)定。