美國(guó)制定《聯(lián)邦憲法》時(shí)，杰斐遜把它與法國(guó)大革命進(jìn)行了對(duì)比，因此他的第一反應(yīng)是反感和疑慮，擔(dān)心這部“保守的憲法”會(huì)動(dòng)搖美利堅(jiān)民族的民主理想和共和國(guó)大廈的基石。他指出，總統(tǒng)可以連任的規(guī)定會(huì)產(chǎn)生“荷蘭式的國(guó)王”（意即終生制）。所幸的是，美國(guó)政壇中的兩派迅速彌合了分歧，決定制定《權(quán)利法案》作為憲法的補(bǔ)充。聞知此訊后，杰斐遜才轉(zhuǎn)變了態(tài)度。

國(guó)務(wù)卿 杰斐遜原想卸任后即退隱蒙蒂賽洛，但華盛頓盛情邀請(qǐng)他出任首任國(guó)務(wù)卿之職。在紐約，他深刻感受到了政治腐敗和官僚主義氣息，驚異地發(fā)現(xiàn)，許多上層人士竟主張建立英國(guó)式的政體。他對(duì)華盛頓講究禮節(jié)和尊嚴(yán)的貴族派頭也表現(xiàn)出極大反感。

上任伊始，杰斐遜受到總統(tǒng)的極大信賴，工作成效十分顯著。他組建了國(guó)務(wù)院，不僅主持外交工作，而且還分管許多國(guó)內(nèi)事務(wù)，如管理領(lǐng)地、保管國(guó)家文獻(xiàn)、與聯(lián)邦法院聯(lián)系、掌管國(guó)璽、普查人口、鑄幣等?？梢哉f，美國(guó)的外交工作是在杰斐遜的謀劃和指導(dǎo)下起步的。那時(shí)國(guó)務(wù)院的規(guī)模很小，只有七個(gè)半工作人員，辦公室設(shè)在百老匯的一間不大的房間里，辦公經(jīng)費(fèi)也少得可憐，所以杰斐遜的工作比較忙碌，許多事情都要事必躬親。這似乎成了一種傳統(tǒng)，一直延續(xù)到林肯時(shí)代。但縱觀此時(shí)期的國(guó)務(wù)卿，大都是出類拔萃之輩，其中有六個(gè)人后來當(dāng)上了總統(tǒng)。

這時(shí)期，杰斐遜與財(cái)政部長(zhǎng)亞歷山大·漢密爾頓的關(guān)系還算融洽，甚至兩人搞過一筆“交易”：漢密爾頓的財(cái)政政策的要點(diǎn)之一是由聯(lián)邦償還州債，但在眾議院受到了阻滯，于是求助于威望極高的杰斐遜。杰斐遜在未了解詳情的情況下應(yīng)允了，但提出了一個(gè)交換條件：漢密爾頓必須支持他的遷都計(jì)劃（即把首都遷至弗吉尼亞的喬治敦）。最終，雙方皆大歡喜。

杰斐遜主張遷都還有其更深層的設(shè)想：把首都從一座已經(jīng)定型的、人口混雜的、具有市儈氣的城市遷出，重新設(shè)計(jì)建造一座新城，以體現(xiàn)美利堅(jiān)民族的精神風(fēng)貌和美好未來。

在外交方面，起初杰斐遜與漢密爾頓的矛盾并不大，他們都贊同美國(guó)在外交方面實(shí)行中立化原則，只是在實(shí)施的具體方式上有不同的主張。

但是，因?yàn)榻莒尺d與漢密爾頓在政治原則和國(guó)內(nèi)外一系列重大問題上的觀點(diǎn)截然不同，所以不久就分道揚(yáng)鑣了。漢密爾頓是個(gè)貴族政治論者，十分崇尚英國(guó)的政治體制，主張?jiān)诿绹?guó)實(shí)行君主立憲制；而杰斐遜則一向大力倡導(dǎo)民主政治，對(duì)君主制和世襲制抱厭惡的態(tài)度，反對(duì)等級(jí)特權(quán)。漢密爾頓奉行償還公債政策，主張加強(qiáng)對(duì)英貿(mào)易，以維護(hù)大資產(chǎn)階級(jí)的利益；杰斐遜則熱愛土地和在土地上勞動(dòng)的人民，要求國(guó)家保護(hù)農(nóng)業(yè)利益，反對(duì)漢密爾頓的財(cái)政方案，主張廣泛發(fā)展與各國(guó)的經(jīng)濟(jì)交往，改變嚴(yán)重依賴英國(guó)的殖民地經(jīng)濟(jì)。漢密爾頓厭惡法國(guó)革命，主張實(shí)行親英外交；杰斐遜同情法國(guó)革命，但他從美國(guó)的實(shí)際利益出發(fā)，支持華盛頓的中立政策，以避免卷入歐洲的紛爭(zhēng)。二人在諸多問題上產(chǎn)生的分歧和沖突，使華盛頓政府不時(shí)出現(xiàn)危機(jī)，并促進(jìn)了黨派精神的萌發(fā)，即使是華盛頓的權(quán)威和聲望，也未能阻止政黨政治的迅猛發(fā)展。