馬克思隨后為第一國(guó)際起草了成立宣言和共同章程。在成立宣言中，馬克思指出無產(chǎn)階級(jí)必須起來奪取政權(quán)，才能獲得自身的解放。他同時(shí)號(hào)召各國(guó)工人團(tuán)結(jié)起來，共同爭(zhēng)取斗爭(zhēng)的勝利。在宣言的最后，馬克思把《共產(chǎn)黨宣言》中那句給力的口號(hào)照搬過來：“全世界無產(chǎn)者，聯(lián)合起來！”共同章程則規(guī)定了第一國(guó)際的目的、任務(wù)和組織原則。第一國(guó)際的目的就是要“成為追求共同運(yùn)動(dòng)的光輝歷程目標(biāo)即追求工人階級(jí)的保護(hù)、發(fā)展和徹底解放的各國(guó)工人團(tuán)體進(jìn)行聯(lián)絡(luò)和合作的中心”。馬克思同時(shí)確定了第一國(guó)際的組織原則為民主集中制，每年舉行一次國(guó)際工人代表大會(huì)，在代表大會(huì)休會(huì)期間由總委員會(huì)主持日常工作。

第一國(guó)際成立以后，就在各地成立支部，吸收工人團(tuán)體和工人個(gè)體加入。同時(shí)，第一國(guó)際積極支持各國(guó)工人的斗爭(zhēng)。1866年和1867年，英國(guó)工人舉行大罷工時(shí)，第一國(guó)際就號(hào)召法國(guó)、德國(guó)、丹麥、荷蘭等國(guó)的工人給予支持，拒絕接受英國(guó)資本家的招募，從而粉碎了資本家試圖從國(guó)外招募工人破壞罷工的陰謀。在瑞士、法國(guó)等國(guó)工人發(fā)動(dòng)罷工抗?fàn)幍臅r(shí)候，第一國(guó)際也同樣伸出了援助之手。

除此之外，第一國(guó)際還跟當(dāng)時(shí)的各種錯(cuò)誤思潮作了斗爭(zhēng)。前期主要是對(duì)蒲魯東主義的斗爭(zhēng)。蒲魯東（Pierre Joseph Proudhon，1809 1865），法國(guó)著名的空想社會(huì)主義者，他早年以一句“財(cái)產(chǎn)就是盜竊”聞名一時(shí)。他自稱是無政府主義者，反對(duì)一切政府的存在，主張互助主義。在他的社會(huì)構(gòu)想中，每個(gè)人都依據(jù)自己的自由意志追求利益，所有人享有同等身份，所有的小生產(chǎn)者根據(jù)自愿原則訂立聯(lián)合協(xié)議，“平等地”交換產(chǎn)品，保證小私有者不再破產(chǎn)。在斗爭(zhēng)方式上，蒲魯東采取改良主義態(tài)度，他反對(duì)一切暴力革命，反對(duì)政治斗爭(zhēng)，也反對(duì)所有的政府和工人組織。這種小資產(chǎn)階級(jí)的幻想式思想在法國(guó)和歐洲其他國(guó)家的一些工人組織中風(fēng)靡一時(shí)。

1866年，第一國(guó)際在瑞士的日內(nèi)瓦舉行代表大會(huì)。會(huì)上，蒲魯東主義分子遭到了大家的“圍觀”。大多數(shù)工人代表都認(rèn)為蒲魯東主義者反對(duì)成立工會(huì)組織和反對(duì)罷工的理論簡(jiǎn)直是奇談怪論，憑什么工人不能起來爭(zhēng)取自己的權(quán)益？蒲魯東主義者還反對(duì)婦女參加生產(chǎn)和享有與男子平等的權(quán)利。日內(nèi)瓦會(huì)議的決議最終批判了蒲魯東式的無政府主義。

在1868年的布魯塞爾大會(huì)上，已成強(qiáng)弩之末的蒲魯東主義被予以最后一擊。會(huì)議通過了馬克思提出的土地問題報(bào)告，認(rèn)為應(yīng)該實(shí)行土地公有，反對(duì)小土地私有制。

帶著小布爾喬亞情結(jié)，堅(jiān)持小土地私有制的蒲魯東主義者蒲魯東一敗涂地。

接過蒲魯東主義大旗的是俄國(guó)無政府主義者巴枯寧（Mikhail AlexandrovichBakunin，1814 1876）。巴枯寧的思想比蒲魯東更為“危險(xiǎn)”，他也主張無政府主義，認(rèn)為政府是資產(chǎn)階級(jí)壓迫人的源泉，消滅政府就消滅了資產(chǎn)階級(jí)。之所以說巴枯寧“危險(xiǎn)”，是因?yàn)樗鲝堄帽┝ο麥缯?。他所幻想的“暴力”手段倒類似于《終結(jié)者》中的天網(wǎng)，一夜之間襲來，摧毀所有政府。在進(jìn)入第一國(guó)際以后，巴枯寧就開始積極策劃奪取第一國(guó)際的最高領(lǐng)導(dǎo)權(quán)。在1869年的巴塞爾代表大會(huì)上，巴枯寧及其追隨者處心積慮，想要把自己的人安插進(jìn)第一國(guó)際總委員會(huì)，但投票結(jié)果卻讓他們大為失望，他們一個(gè)都沒能當(dāng)選。

1871年3月，由于法國(guó)在普法戰(zhàn)爭(zhēng)中戰(zhàn)敗，巴黎工人為保衛(wèi)國(guó)家，反抗資本主義壓迫，發(fā)動(dòng)了著名的巴黎公社起義。這次意義重大的無產(chǎn)階級(jí)革命成為一塊試金石。巴枯寧主義者指責(zé)巴黎公社是“犯罪行為”，并開始拉攏一部分反對(duì)起義的人分裂第一國(guó)際。1871年9月，第一國(guó)際在倫敦舉行會(huì)議，巴枯寧分子拒絕參與，并在瑞士洛桑試圖另立國(guó)際。但參加洛桑會(huì)議的只有16個(gè)人，場(chǎng)面冷淡，令巴枯寧顏面大失。第一國(guó)際于1872年海牙大會(huì)上宣布將巴枯寧及其追隨者開除出第一國(guó)際。