魏文帝黄初元年（220　年），复置凉州，张掖郡隶属凉州管辖。魏明帝太和二年（228年），徐邈出任凉州刺史，在河西“广开水田，募贫民佃之，家家丰足，仓库盈溢”；兴办学校，发展教育；“禁厚葬，断淫祀”，改革陋习。西晋惠帝永宁元年（301　年），张轨任凉州刺史。当时，西晋王朝陷入前所未有的动荡之中，国家分崩离析。张轨来到河西后，平定叛乱，安置流民，稳定政局，多有建树。“永嘉之乱”后，中原之士多慕张轨之名躲乱河西，以郭荷为代表的中原及关中世家大族就是在这一时期来到张掖。郭荷、郭瑀、刘昞师徒三代，先后隐居张掖东山、临松薤谷收徒讲学，积极推动儒家文化的传播和发展，使中华传统文化得以在河西传承。东晋十六国时期，在郭荷师徒三代的影响下，河西从师求教之风浓厚，为隋唐时期文化的繁荣奠定了基础。中原人也将先进的农耕技术和生产方式带到张掖，加快了农耕文明与草原文明（游牧文明）的融合。高台县魏晋墓出土的大量画像砖，真实呈现了当时张掖人民富足安逸的生产、生活场景。

西晋灭亡后，张氏一族以姑臧（今武威市凉州区）为都城，建立前凉政权。前凉政权对后凉、南凉、北凉、西凉、北魏、东魏、西魏、北齐、北周的政治、军事、宗教、建筑、艺术都有深远影响。五凉（前凉、后凉、南凉、北凉、西凉）时期，河西地区民族融合的步伐加快。上层统治者无论是否是汉族，都尊崇儒学。

东晋隆安元年（397　年），沮渠蒙逊起兵反抗后凉吕光，拥戴建康郡（今张掖市高台县骆驼城）太守段业为凉州牧、建康公，创建北凉政权，建都建康。隆安五年（401　年）六月，沮渠蒙逊夺取北凉统治权，迁都张掖。玄始元年（412　年），沮渠蒙逊平定姑臧后，遂迁都姑臧。玄始十年（421　年），沮渠蒙逊灭西凉，北凉控制了河西走廊及西域的高昌、楼兰等地，进入稳定期。武威的天梯山石窟及张掖的金塔寺石窟、文殊山石窟群均开凿于北凉时期，这些石窟的设计师名叫昙曜。考古学家宿白先生认为北凉时期开凿的石窟已形成独具个性的“凉州模式”，这一模式的出现与古代西域龟兹和于阗两地的佛教遗迹有直接关系。沮渠蒙逊还重用通晓法典的汉族人士治国，并在此基础上整顿内政。他提倡儒学，将阚骃、刘昞、赵柔、索敞、阴仲达等儒学名士奉为座上宾，“咸礼而用之”，这些名士编纂的《十三州志》《人物志》《凉书》《敦煌实录》等地方典籍传于世。

北魏太延五年（439　年），北魏灭北凉，拓跋焘将寓籍北凉的中原世家大族、僧众和著名工匠，包括郭荷、郭瑀、刘昞师徒培养出来的几乎所有河西儒家学子等三万余人，从河西走廊迁往平城（今山西大同）。《魏书·释老志》载：“太延中，凉州平，徙其国人于京邑。”这批人才到达目的地后，其中的儒家学者在兴理文教、编修国史、制定礼仪等方面，为北魏政权作出了突出贡献；其中的僧众和工匠，于北魏和平元年（460　年）在昙曜的主持下，开凿了云冈石窟中著名的“昙曜五窟”，他们将“凉州模式”从河西走廊带到了平城。又过了些年，这支队伍中的一部分人及他们的子女、徒弟，又跟随孝文帝迁往洛阳，参与了龙门石窟的开凿，完成了中原文化的大迁徙和佛教的东渐。著名历史学家陈寅恪先生在他的《隋唐制度渊源略论稿》中评价：“（河西儒学）上续汉、魏、西晋之学风，下开魏、齐、隋、唐之制度，承前启后，继绝扶衰，五百年间延绵一脉。”（张鸿清）