次年6月，為了推進國內(nèi)學(xué)術(shù)的發(fā)展，他與趙元任、胡明復(fù)、任鴻雋、楊杏佛、周仁、秉志、章元善、金邦正、過探先等，在美國發(fā)起“中國科學(xué)社”，以提倡科學(xué)，鼓吹實業(yè)，審定名詞，傳播知識為宗旨，并出版月刊，名曰《科學(xué)》，分中英兩種，中文版在上海發(fā)行。社址暫設(shè)美國綺色佳城。這是我國第一個科學(xué)團體，他們鼓吹學(xué)術(shù)救國，利用《科學(xué)》雜志向國內(nèi)介紹留學(xué)生的情況及西方的科學(xué)知識。此會醞釀將近一年，1915年正式成立并出刊。1918年隨留學(xué)生遷回國內(nèi)，在南京、上海設(shè)事務(wù)所，后來逐漸擴大，對中國的科學(xué)事業(yè)作了巨大貢獻。在科學(xué)社中，胡適雖未擔(dān)任什么職務(wù)，但他一直參與其事，并給以積極支持，踴躍投稿和參加年會。

1929年1月胡適曾為該社作社歌一首，歌詞是：

我們不崇拜自然，

他是個刁鉆古怪。

我們要捶他煮他，

要使他聽我們指派。

我們叫電氣推車，

我們叫以太送信。

把自然的秘密揭開，

好叫他來服事我們?nèi)恕?/p>

我們唱天行有常，

我們唱致知窮理。

不怕他真理無窮，

進一寸有一寸的歡喜。

詞寫成后，趙元任為之譜曲，1930年在北平一次社友會上為慶祝該社成立15周年曾演唱過。之后1935年10月24日，中國科學(xué)社在上海國際飯店舉行慶祝會，胡適應(yīng)邀在大會上發(fā)表演講。他講述了“科學(xué)社”的發(fā)展經(jīng)過，其中特別贊揚了生物研究所，說：“秉志、胡先骕兩大領(lǐng)袖領(lǐng)導(dǎo)下，動物所、植物所同時發(fā)展，在此20年中為文化上辟出一條新路，造就許多人才，要算在中國學(xué)術(shù)上最得意的一件事”云云。以上略述其大概，足以看出胡適對發(fā)展科學(xué)之重視，因為它與教育是密不可分的。

1915年1月18日胡適離綺色佳城應(yīng)邀到波士頓出席該地區(qū)開的卜朗吟(Boston Browning Society)會議。期間曾赴哈佛大學(xué)訪友，在此遇中國同學(xué)鄭萊、吳康、宋子文、張福運、竺可楨、孫恒、趙文銳、陳長蘅、賀茂慶等人，大家暢談極歡。20日夜，澄衷老同學(xué)竺可楨請他吃飯，在座的有鄭萊、張子高等7人，彼此都有見面難得之感，故傾談甚快，其中胡適與鄭萊說話最多。他們討論了中國的重要問題，一致認為：(一)設(shè)立國立大學(xué)以救今日國中學(xué)者無處尋求高等學(xué)問之地，(二)設(shè)立公共藏書樓、博物院，(三)設(shè)立學(xué)會等等。大家各抒己見，表示了對祖國的懷念和希望。

同年2月22日，胡適與學(xué)校里的英文教師亞丹先生的一次談話，也談到設(shè)置大學(xué)的問題，這位教師問他：中國有大學(xué)嗎?他答不上來。這位老師又說，如果中國想保全固有之文明，創(chuàng)造新文明，那末非有國家大學(xué)不可。并稱國之先務(wù)，莫大于是。胡適聽了很有感觸，于是便將自己近來所主張辦國立大學(xué)之方針向老師作了匯報，其中談到了他在《非留學(xué)篇》中的許多主張。當時老師十分夸獎他，并稱中國如有一所完美之大學(xué)，他將以自己收藏多年的書籍千余冊相贈，鼓勵胡適努力奮斗，去實現(xiàn)自己的辦學(xué)理想。胡適聽了很受鼓舞。當天他在日記里寫道：“吾他日能望見中國有一國家大學(xué)可比此邦之哈佛，英國之劍橋、牛津，德之柏林，法之巴黎，吾死瞑目矣!”胡適特別強調(diào)在國內(nèi)設(shè)立國立大學(xué)的重要性，他認為，國內(nèi)如果沒有一個地方，讓人們?nèi)デ笕「叩葘W(xué)問，那末人才勢必外流，到外國去留學(xué)，這種局面不改變，國內(nèi)文明將永無進步之希望。因此他特別強調(diào)辦國家大學(xué)。

胡適上述思想，在他寫的《非留學(xué)篇》一文里，講得更為透徹。這篇文章發(fā)表在1914年1月《留美學(xué)生年報》上，約有1.5萬字。此文比較全面地論述了他對待官費留學(xué)生的看法，及其對改革國內(nèi)高等教育的意見。文章開宗明義，對留學(xué)生中存在的一些問題提出了批評。他說：

“留學(xué)者，吾國之大恥也；

留學(xué)者，過渡之舟楫，非敲門磚也，

留學(xué)者，廢時傷財，事倍而功半者也；

留學(xué)者，救急之計，而非久遠之圖也?！?/p>

他告誡人們首先要認識到留學(xué)是不光彩的，以數(shù)千年之古國，東亞文明之領(lǐng)袖，一變而北面受學(xué)，稱弟子國，天下大恥，莫過于是。但他并不反對國家派遣留學(xué)生，而是要人們知道這是一種恥辱，記住把它洗刷掉。同時，要明確自己責(zé)任，不能把留學(xué)當作將來回國獵取功名富貴的敲門磚，而是要如渡海之船夫，乘風(fēng)而來，采山之神藥，乞醫(yī)國之金丹，然后揚帆而歸，以他人之所長，補我所不足，使我國古文明，得新生機而益發(fā)揚張大，為神州造一新舊混合之新文明。因此，他說：“留學(xué)當以不留學(xué)為目的。是故派遣留學(xué)生至數(shù)十年之久，而不能達此目的之萬一者，是為留學(xué)政策之失敗?！?/p>

有鑒于此，他認為大量派遣青年（時每年200人）出國留學(xué)，是廢時傷財，事倍而功半。他主張把每年派遣留學(xué)生的官費（銀40萬元）拿來在國內(nèi)辦高等教育，而以留學(xué)為造就大學(xué)教師的途徑，如是以大學(xué)為鵠、留學(xué)為矢，那么我國教育前途，或許會有希望了。他批評政府數(shù)十年來的留學(xué)政策，是忘本逐末，以留學(xué)為久長之計，而不知振興國內(nèi)大學(xué)，推廣國內(nèi)高等學(xué)校，以為根本之圖。他說：“國內(nèi)高等學(xué)校不興，大學(xué)不發(fā)達，則一國之學(xué)問無所歸聚，留學(xué)生所學(xué)，但成外國入口貨耳”。這是舍本逐末的政策，在這種思想指導(dǎo)下，政府自然偏重實際科學(xué)——工科，而看輕了文科。于是，由于上以所勸，下以此應(yīng)的關(guān)系，留學(xué)生多去學(xué)工但求一技之長，急于求成，歸國謀取利祿。他認為這是救急之計，而非久遠之圖。因此他指出：“雖極其造詣，但可為中國增鐵道若干條，開礦山若干處，設(shè)工廠若干所耳!于吾群治進退，文化盛衰，固絲毫無與也”。既然如此，那末留學(xué)是否可以廢除呢?他的回答是否定的。他說留學(xué)是救急之上策，過渡之舟楫，我國一日未出過渡之時代，留學(xué)則一日不可廢。不能因噎廢食。問題的關(guān)鍵是要改變過去以仕進利祿的教育方針和派遣留學(xué)生的方法。他認為：“今日教育之唯一方針，在于為吾國造一新文明”。接著解釋道：“吾國之舊文明，非不可寶貴也，不適時耳!不適于今日之世界耳!”“吾國居今日而欲與歐美各國爭存于世界也，非造一新文明不可。造新文明，非易事也。盡去其舊而新是謀，則有削趾適履之譏。取其形式而遺其精神，則有買櫝還珠之誚。必也。先周知我之精神與他人之精神果何在?又須知人與我相異之處果何在?然后可以取他人之長，補我所不足。折衷新舊，貫通東西，以成一新中國之新文明，吾國今日之急務(wù)，無急于是者矣。20世紀之大事，無大于是者矣。以是為吾民國之教育方針，不亦宜乎。”胡適特別強調(diào)文科作用，認為文科才能從根本上改變國家的落后面貌。他說，為長久計，應(yīng)該以國內(nèi)高等教育為主，而以留學(xué)為賓。今日之大錯，在于以國內(nèi)教育僅為留學(xué)之預(yù)備，因此國內(nèi)各有名的學(xué)校，都重視外語，用外國語教授科學(xué)；學(xué)生以得出洋留學(xué)為最高之目的，學(xué)校亦以能使本校學(xué)生可考取留學(xué)官費，或能直入外國大學(xué)，則本校之責(zé)已盡矣。這是今日最大之隱患。為了改變這種局面，他提出要改變教育方針，面向國內(nèi)，具體辦法有二：(一)慎選留學(xué)生，提出許多嚴格的標準，比如要通曉國學(xué)：《四書》、《五經(jīng)》、《史記》、《漢書》、《說文》、《唐詩》、《宋詞》等。其次是外語要求能讀書、作文，還要有第二外語(能以字典讀書為度)。文學(xué)要能作文自達其意，而且能翻譯外文，等等。上述要求，無非是要提高留學(xué)生的質(zhì)量，以便能完成留學(xué)生所負的責(zé)任，使其歸國后為國家出力報效，做一番建設(shè)事業(yè)。所以他說：“留學(xué)者，新文明之媒也，新文明之母也?！?二)增設(shè)大學(xué)。他認為當時國內(nèi)雖有幾所大學(xué)如北京、北洋、南洋三大學(xué)，但極不完備，須要從各方面擴充，使之完備。他主張，大學(xué)之數(shù)，不必多，但要完備精全。不妨就以上述三大學(xué)為重點，務(wù)使百科咸備，與于世界有名大學(xué)之列，然后以余力增設(shè)大學(xué)于漢口、廣州等地。此外還須辦省立大學(xué)，辦法可就已有之高等學(xué)堂為起點，改為大學(xué)?？颇靠梢暿?nèi)之急需而增設(shè)，如浙江大學(xué)可以增設(shè)蠶學(xué)、種茶?？疲＝ù髮W(xué)則須設(shè)漆工及造船?？疲鞔髮W(xué)當設(shè)有磁器之類。其次鼓勵私人捐款辦學(xué)，設(shè)立私立大學(xué)，政府考查成績，對成效大著者，應(yīng)予以補助，使之得以充分發(fā)展。