行館后方是景致優(yōu)雅的花園，從陽臺(tái)則可遠(yuǎn)眺馬公近海，并觀察軍艦進(jìn)出馬公港。胡宗南駐守澎湖時(shí)，還曾在三面臨海的山坡上為蔣介石興建了一座涼亭，東可望案山漁火，西眺西嶼落霞，南面俯瞰臺(tái)灣海峽，景色極佳，蔣介石之后每來澎湖早晚都要到亭中小憩。不過胡宗南于1962 年逝世后，蔣介石乃囑軍方重新修整涼亭，并親自命名為“宗南亭”，并在澎湖林投公園為胡宗南樹立銅像。

金門炮戰(zhàn)結(jié)束后，澎湖貴賓館繼續(xù)充作“總統(tǒng)行館”，并由“陸軍總部”、澎湖防衛(wèi)司令部管理，屋旁除了間供校級(jí)以上軍官居住的招待所，并新建有一座居民自發(fā)募款籌建的“介壽亭”，以懷念蔣介石。蔣經(jīng)國每到澎湖巡視防務(wù)與民生建設(shè)，或關(guān)心居民缺水、漁民生計(jì)問題，也都下榻貴賓館，不時(shí)可看到他在此緬懷蔣介石、思考大政。據(jù)說中美斷交前，蔣經(jīng)國也曾在館內(nèi)會(huì)晤“美國大使”，商討斷交后雙方關(guān)系事宜。

在行館待了50 多年的侍衛(wèi)劉晨曦也曾回憶，由于澎湖缺水，蔣經(jīng)國有次到澎湖巡視，自己打理洗澡的事，結(jié)果隔天他發(fā)覺浴缸一滴水都沒有，反倒是掛在一旁的毛巾布滿污垢，原來蔣經(jīng)國說，老百姓沒水吃，我洗澡要用掉多少水，洗個(gè)臉就好。還有一次，蔣經(jīng)國裝著心臟導(dǎo)管，在醫(yī)護(hù)人員攙扶下坐直升機(jī)到澎湖巡視，當(dāng)時(shí)蔣經(jīng)國還開玩笑地說，“老劉，這可能是我最后一次來看你了?！弊詈蠊嬉徽Z成讖。

蔣經(jīng)國執(zhí)政末期雖宣布解嚴(yán)，但因澎湖戰(zhàn)地特性，貴賓館仍維持原先閑人勿近的門禁管制，李登輝到澎湖視查，同樣也下榻由軍方嚴(yán)密看守的貴賓館。直到1992 年，臺(tái)灣軍方宣布為紀(jì)念蔣介石誕辰，首度對外公開行館內(nèi)部陳設(shè)，才開始行館開放事宜；之后軍方同意將第一賓館管理事務(wù)交還縣政府，第一賓館更被澎湖縣政府宣布為縣定古跡，并于2000 年冬天開始對外全面開放，供游客任意參觀憑吊。

今日澎湖貴賓館花木扶疏，位于馬公市近郊觀音亭海邊與水產(chǎn)職校間，鄰近澎湖青年活動(dòng)中心旁，已經(jīng)是澎湖當(dāng)?shù)刂包c(diǎn)。澎湖縣政府觀光局計(jì)劃把行館規(guī)劃成為“馬公市后花園”，除整修行館四周景觀，興設(shè)人行步道、燈光及植栽，并將結(jié)合外圍地區(qū)發(fā)展為具文藝、觀光、游憩及消費(fèi)等多功能的新商圈。