1809年，詹姆斯·麥迪遜出任總統(tǒng)，他沒(méi)有忘記小亞當(dāng)斯對(duì)共和黨人的支持和為此付出的代價(jià)，立即派他出使俄國(guó)。這一重要任命重新激發(fā)了小亞當(dāng)斯的政治熱情和雄心，他立即帶上妻子和小兒子匆匆踏上了旅途。小亞當(dāng)斯是首位為俄國(guó)正式接納的美國(guó)公使。此時(shí)，小亞當(dāng)斯已經(jīng)是一位成熟的政治家和外交官了，實(shí)際上，歐洲所發(fā)生的重大事件大都是由他傳至華盛頓的，由于政府很重視他的意見(jiàn)，因此對(duì)政府制定外交政策產(chǎn)生了很大影響。他與沙皇亞歷山大一世建立起了特殊的友誼，經(jīng)常與沙皇聚會(huì)，聊天并充分利用這一關(guān)系為美國(guó)謀利。在他的游說(shuō)下，俄國(guó)允許美國(guó)商船自由地利用俄國(guó)的港口，美俄貿(mào)易也得到了較快的發(fā)展。通過(guò)俄國(guó)，美國(guó)還改善了與北歐國(guó)家的關(guān)系。

1812年俄法戰(zhàn)爭(zhēng)爆發(fā)后，小亞當(dāng)斯與俄國(guó)人共享遭受入侵和最后勝利的憂樂(lè)，并把這段曲折的歷史寫(xiě)成精彩的報(bào)告，傳回國(guó)內(nèi)。此時(shí)，美國(guó)第二次獨(dú)立戰(zhàn)爭(zhēng)爆發(fā)，他認(rèn)為戰(zhàn)爭(zhēng)是一件不應(yīng)該發(fā)生的事情，但或許是對(duì)美利堅(jiān)民族的一次考驗(yàn)。

1813年，小亞當(dāng)斯參與并領(lǐng)導(dǎo)了與英國(guó)進(jìn)行的關(guān)于結(jié)束第二次獨(dú)立戰(zhàn)爭(zhēng)的談判。談判進(jìn)行得十分艱苦，一直持續(xù)到1814年圣誕前夕，雙方才達(dá)成協(xié)議，簽署《根特條約》，最終結(jié)束了戰(zhàn)爭(zhēng)。

1815年時(shí)他出公差到巴黎，正巧碰上了拿破侖從囚禁地厄爾巴島凱旋回歸，重建他的帝國(guó)。小亞當(dāng)斯懷著驚嘆和復(fù)雜的心情目睹了這一歷史奇觀。在出使俄國(guó)期間，他還被任命為美國(guó)最高法院法官，但沒(méi)有赴職。

1815年，麥迪遜總統(tǒng)任命小亞當(dāng)斯為駐英公使，他又回到了年輕時(shí)與父親住過(guò)的倫敦。小亞當(dāng)斯的使命是促進(jìn)美英雙方貿(mào)易的發(fā)展和關(guān)系的正?；?，為此他付出了巨大的努力，與英國(guó)簽訂了幾項(xiàng)重要的商務(wù)協(xié)定。

國(guó)務(wù)卿 1817年，門(mén)羅就任美國(guó)總統(tǒng)，鑒于小亞當(dāng)斯豐富的外交經(jīng)驗(yàn)，門(mén)羅任命他為美國(guó)國(guó)務(wù)卿。小亞當(dāng)斯一直任職至門(mén)羅總統(tǒng)卸任，他的竭誠(chéng)努力是門(mén)羅政府在外交上取得的一系列成果的保障。他繼續(xù)執(zhí)行其前任的歐洲政策，為美國(guó)在美洲領(lǐng)導(dǎo)地位的形成起了重要作用。他是一位更為強(qiáng)硬的民族主義者，主張把美國(guó)的領(lǐng)土擴(kuò)張至整個(gè)北美洲，并使美國(guó)成為全世界受壓迫者的避難所。

1818年，經(jīng)過(guò)談判，美國(guó)與英國(guó)就美國(guó)與加拿大沿海水域的漁業(yè)資源問(wèn)題和雙方的陸路邊界問(wèn)題達(dá)成了協(xié)議，該協(xié)議為美國(guó)爭(zhēng)得了不少利益，并穩(wěn)定了美加關(guān)系。

1818年，佛羅里達(dá)危機(jī)爆發(fā)，美國(guó)政府派強(qiáng)悍的安德魯·杰克遜入侵該地區(qū)。杰克遜率軍深入佛羅里達(dá)，摧毀了一些印第安人的村莊，處死了兩名挑起事端的英國(guó)人，并驅(qū)逐了西班牙總督。消息傳來(lái)，國(guó)內(nèi)外輿論嘩然，幾乎所有的人都譴責(zé)杰克遜的行為越權(quán)。只有小亞當(dāng)斯一人竭力為杰克遜辯護(hù)，在他的說(shuō)服下，門(mén)羅總統(tǒng)也認(rèn)為杰克遜的做法是正當(dāng)?shù)?，但?yīng)歸還佛羅里達(dá)。杰克遜的軍事行為對(duì)西班牙人造成了巨大威懾，使他們認(rèn)識(shí)到佛羅里達(dá)早晚會(huì)落入美國(guó)人之手。小亞當(dāng)斯抓住這一契機(jī)，于1819年與西班牙簽訂了《亞當(dāng)斯-奧尼斯條約》，美國(guó)以五百萬(wàn)美元的代價(jià)使西班牙將佛羅里達(dá)讓與美國(guó)，西班牙從此不再參與爭(zhēng)奪俄勒岡地區(qū)。該條約使美國(guó)的疆界貫通了北美大陸，小亞當(dāng)斯從中起了關(guān)鍵作用，被譽(yù)為“美國(guó)最有才華和作為的國(guó)務(wù)卿”。小亞當(dāng)斯也認(rèn)為這是他最重要的一項(xiàng)歷史功績(jī)。