公元220年，東漢王朝在各方勢(shì)力的打擊下走向滅亡，中國進(jìn)入長達(dá)300多年的分裂割據(jù)時(shí)期。此時(shí)位于中亞的貴霜帝國也走向衰落。位于伊朗高原的安息帝國，則于226年被新興起的薩珊波斯（226—651年）滅亡。在歐洲的羅馬帝國，也經(jīng)歷了一個(gè)多世紀(jì)的危機(jī)（三世紀(jì)危機(jī)），并于395年分裂為東、西羅馬帝國。476年，西羅馬帝國滅亡，在其原來的領(lǐng)土上產(chǎn)生了十幾個(gè)分裂的小國，而東羅馬帝國，也稱拜占庭帝國，則經(jīng)歷了漫長的統(tǒng)治時(shí)期，直到1453年為伊斯蘭教的土耳其帝國滅亡。

雖然中西差不多在同時(shí)出現(xiàn)了政權(quán)的衰落，乃至更替，但是早已形成的絲綢之路卻依然保持暢通，尤其是中國北朝時(shí)期，由于各統(tǒng)治民族同西域少數(shù)民族間的固有聯(lián)系，中西陸路交通進(jìn)一步拓展，使絲綢之路呈現(xiàn)更加繁榮的景象。

三國時(shí)，魏曹丕即位后，國力強(qiáng)大，向西部用兵。222年，曹魏政權(quán)正式恢復(fù)戊己校尉的設(shè)置，駐扎在絲路的要地高昌（今新疆吐魯番），后又恢復(fù)西域長史的設(shè)置，駐地設(shè)在海頭（今羅布泊西），這兩個(gè)設(shè)置分別處于絲路的北道和南道。此后，曹魏陸續(xù)平定了河西的地方勢(shì)力，西域各政權(quán)紛紛歸附曹魏政權(quán)。自此之后，西域各國，如龜茲、鄯善、于闐、疏勒、車師等國，貢使歲歲來朝。魏文帝曹丕也十分重視與西域諸國之間的關(guān)系，對(duì)各國使節(jié)均厚贈(zèng)而返。

265年，世家大族司馬氏取代曹魏建立西晉政權(quán)，繼續(xù)沿襲曹魏管理西域的模式，并普遍授予各國國王官職，授予他們“晉守侍中、大都尉、奉晉大侯”等官職。

316年，匈奴人劉淵南下滅西晉，司馬氏南遷至今南京，建東晉，中國北方陷入十六國紛爭的局面。占據(jù)涼州的諸地方割據(jù)政權(quán)（如前涼、后涼、西涼、北涼），依然與西域之間保持著聯(lián)系，只不過此時(shí)的西域和外國商人，大多在以前的河西四鎮(zhèn)等地貿(mào)易，不能進(jìn)入長安、洛陽。在肥水之戰(zhàn)前，前秦苻堅(jiān)也曾遣使西域，以繒彩贈(zèng)與諸國國王，使西域十余國前來朝獻(xiàn)。

389年，拓跋建北魏（386—534年），并逐漸統(tǒng)一中國北方，采取了一些措施加強(qiáng)中國與西域的聯(lián)系。439年北魏滅北涼，就是為了打通西域與內(nèi)地的聯(lián)系。442年，北魏在敦煌設(shè)立沙州，繼而在西域重鎮(zhèn)鄯善、焉耆分別設(shè)鎮(zhèn)，實(shí)行直接管理。437年，北魏派董、高明帶著大量的金銀、綢緞出使西域。北魏時(shí)期是中西交流的重要時(shí)期，都城洛陽作為當(dāng)時(shí)西域商人的薈萃之地，有專門接待商人和使者的“四夷館”，而且設(shè)有專門供西域和外國商人買賣的市場，稱為“四夷市”。

就在中國各政權(quán)努力與西域建立聯(lián)系的同時(shí)，中國與中亞、西亞乃至歐洲的聯(lián)系，也在雙方的努力下得以實(shí)現(xiàn)。