為使同學(xué)們更好更快地了解各種西學(xué)知識(shí)，實(shí)現(xiàn)教育救國的理想，蔡元培十分重視外語的學(xué)習(xí)。他曾對特班的同學(xué)們說：“現(xiàn)在中國被各國欺侮到這地步，知彼知己，百戰(zhàn)百勝，我們要知道自己弱點(diǎn)，還要了解國際情況。了解國際情況，就要通曉外國文，讀外國書?！?nbsp; 他認(rèn)為英文自然要學(xué)，但鑒于英文難學(xué)，而大多數(shù)西方著作，都有日文譯本，同學(xué)們不妨先學(xué)習(xí)與漢語較為接近的日文，以了解世界大勢。他本人親自教授日文，傳授譯文翻譯法。在他的指導(dǎo)下，那些學(xué)日文的同學(xué)果然獲益匪淺，“不數(shù)日，人人能讀日文，且有譯書者?！?nbsp; 出于對外語的重視，蔡元培本人還在教書、編書之余，跟馬相伯學(xué)習(xí)拉丁文。他認(rèn)為，歐洲各國語言多源于拉丁文；不通拉丁文，便無從了解西洋的古代文化。因此，雖然馬相伯告訴他，拉丁文在西洋已成古董，除大學(xué)外其他學(xué)校均不注重，中國學(xué)者更沒有必要去學(xué)它，但蔡元培還是執(zhí)意學(xué)習(xí)。每天一清早，他從南洋公學(xué)步行兩三公里路，趕到徐家匯土山灣馬先生的住處。有時(shí)，5點(diǎn)鐘就在外面叫門，馬先生還未起床，而且起床后還要做禱告，便開門對他說：“太早了，太早了，八九點(diǎn)鐘再來吧。” 后來，根據(jù)馬相伯的建議，蔡元培選派24名學(xué)生一道師從馬先生學(xué)習(xí)拉丁文。1903年，馬相伯即在此基礎(chǔ)上創(chuàng)辦震旦學(xué)院。

在創(chuàng)造活潑的教學(xué)氛圍的同時(shí)，蔡元培對同學(xué)們平常在校內(nèi)的言行又要求甚嚴(yán)。他曾手訂特班生游息規(guī)則，規(guī)定學(xué)生拋球、競走等體育活動(dòng)只能在操場進(jìn)行；進(jìn)入飯廳、體育場，當(dāng)整齊有序，不可爭先亂走；走路“當(dāng)有步驟，不得沖突他人”；在游息場所，不得有“咒謔忿詈之事” ，引導(dǎo)同學(xué)們養(yǎng)成講秩序、守紀(jì)律、尊重他人的良好習(xí)慣。在蔡元培的教育和影響下，特班的42名學(xué)生不少后來在社會(huì)上都有所成，較著名的如邵力子、洪允祥（樵舲，后為詩人）、王世瀓（莪蓀，治法學(xué)）、胡仁源（次珊，后治工程，曾任北大工科學(xué)長、代理校長）、謝沈（無量，后為著名文學(xué)家）、李廣平（叔同，后出家，為著名的弘一法師）、黃炎培（任之，后為著名教育家）、項(xiàng)驤（渭臣，后治財(cái)政）、貝壽同（季眉，后留學(xué)德國，治建筑）。

執(zhí)教南洋公學(xué)是蔡元培早期從事教育救國實(shí)踐活動(dòng)的一個(gè)重要時(shí)期。南洋公學(xué)所在的上海，不像保守、偏居一隅的古城紹興，是當(dāng)時(shí)國內(nèi)最開放的一座城市，是維新運(yùn)動(dòng)以后國內(nèi)各類新學(xué)人士會(huì)集的地方，它為蔡元培從事更為廣泛的社會(huì)和政治活動(dòng)提供了條件。

在南洋公學(xué)任教期間，蔡元培在上海從事的其中一個(gè)社會(huì)活動(dòng)是開始涉足報(bào)界和出版界。1901年10月，他與鄉(xiāng)試同年好友張?jiān)獫?jì)合議創(chuàng)辦《開先報(bào)》，取英文“前隊(duì)，沖鋒之義”，后改名《外交報(bào)》。蔡元培手訂《創(chuàng)辦〈外交報(bào)〉敘例》，指出本報(bào)宗旨“薈我國自治之節(jié)度，外交之政策，與外國所以對我之現(xiàn)狀，之隱情，臚舉而博譯之，將以定言論之界，而樹思想之的，為理論家郵傳，而為實(shí)際家前驅(qū)?！?同時(shí)，他支持蔣智由創(chuàng)辦國內(nèi)第一張文摘報(bào)——《選報(bào)》，為《選報(bào)》 撰寫敘論，宣傳該報(bào)“薈域中域外之國文報(bào)而抉擇之，其有關(guān)天下之故、通古今之變者，咸具本末，間附評議，托體于溫故，而取徑于開新。蓋不居撰述之名，而有其義者，非與尋常緝比之報(bào)為重臺(tái)也?！?nbsp; 此外，為糾正社會(huì)上為應(yīng)付科舉考試出版的文本存在的迂謬窒塞、束縛新思想的弊端，蔡元培選錄梁啟超、嚴(yán)復(fù)等“當(dāng)世名士著譯之文”，共42 篇，編訂《文變》 一書，于1902年5月由商務(wù)印書館出版，以期幫助讀者“知世界風(fēng)云之所趨”, “無為三家村夫子之頭巾氣所范圍” ，積極宣傳新學(xué)，以帶動(dòng)國人思想言論的進(jìn)步。同年，他又應(yīng)張?jiān)獫?jì)之聘，兼任商務(wù)印書館編譯所所長，負(fù)責(zé)制定國文、歷史、地理三科教科書的編纂體例。這是蔡元培與商務(wù)印書館的首次合作。自此之后，直至逝世，他與商務(wù)印書館始終保持密切聯(lián)系。

蔡元培在滬上參與的另一重要活動(dòng)，是組織成立中國教育會(huì)和愛國女校。中國教育會(huì)成立于1902年4月20日，由蔡元培和葉瀚（浩吾）、蔣觀云、黃宗仰、林白水、王小徐（季同）、汪德淵等人共同發(fā)起，會(huì)址設(shè)在上海泥城橋外福源里21號(hào)。4月27日，蔡元培被推選為中國教育會(huì)會(huì)長。從教育會(huì)章程來看，它成立的本意是要推動(dòng)國內(nèi)教育事業(yè)的發(fā)展，“以教育中國男女青年，開發(fā)其智識(shí)，而增進(jìn)其國家觀念，以為他日恢復(fù)國權(quán)之基礎(chǔ)為目的”。 教育會(huì)起初設(shè)想的規(guī)模十分宏大，會(huì)內(nèi)設(shè)教育部、出版部和實(shí)業(yè)部。教育部分男子部和女子部，主要工作是設(shè)立學(xué)堂，教授普通學(xué)和各種專門技藝。出版部負(fù)責(zé)教科書、報(bào)刊和有關(guān)學(xué)術(shù)著作編印和出版。實(shí)業(yè)部則負(fù)責(zé)開設(shè)若干工廠或公司，以便為教育會(huì)提供財(cái)源。但教育會(huì)實(shí)際上并沒有能按這一計(jì)劃進(jìn)行，它在當(dāng)時(shí)主要是為學(xué)界進(jìn)步人士聚會(huì)和開展活動(dòng)創(chuàng)造條件，是一個(gè)進(jìn)步的教育文化團(tuán)體，后來則成為國內(nèi)最早的一個(gè)革命團(tuán)體。