1962年，我國處于國民經(jīng)濟(jì)最困難的時期。中央提出“調(diào)整、鞏固、充實(shí)、提高”的八字方針。根據(jù)當(dāng)時的形勢，中國科學(xué)院與西北局商定：撤消陜、甘、寧、青四?。▍^(qū)）的分院，以中國科學(xué)院蘭州分院和中國科學(xué)院陜西分院為基礎(chǔ)，成立中國科學(xué)院西北分院?？紤]到新疆地區(qū)偏遠(yuǎn)，少數(shù)民族多而集中和資源豐富，保留了新疆分院的建制，歸屬西北分院領(lǐng)導(dǎo)。

1962年4月9日，中國科學(xué)院在蘭州同時為中國科學(xué)院西北分院和西北局科學(xué)技術(shù)委員會（以下稱西北局科委）舉辦了成立大會。參加會議的有中國科學(xué)院在西北地區(qū)的直屬研究所和大區(qū)重點(diǎn)研究所的領(lǐng)導(dǎo)干部、科學(xué)家、科技人員代表；新疆分院、陜西分院、蘭州分院的領(lǐng)導(dǎo)干部，共70人。西北局書記處書記王林同志在會上講了話；國家科委、西北局宣傳部和西北局科委的負(fù)責(zé)同志出席會議并作指導(dǎo)。西北分院負(fù)責(zé)同志分別傳達(dá)了“廣州科學(xué)會議”精神和周恩來總理、陳毅副總理的講話。中國科學(xué)院秘書長郁文同志參加了會議，作了講話，并和中共西北局研究了西北分院的設(shè)置、人員精簡等事項(xiàng)，對今后的科研工作任務(wù)提出了建議。在這次會議上，正式宣布了成立中國科學(xué)院西北分院的決定。西北分院地址在蘭州市盤旋路寧臥莊。

1962年12月下旬，中國科學(xué)院與西北局和陜西省委商定：西北分院遷至西安市南郊邊家村。1963年元月1日，西北分院正式對外辦公。時逸之任黨組書記兼院長，徐勁 、董杰任副院長。1964年后，按中央精神，中科院西北分院成立中共西北分院黨委，建立政治部，時逸之任黨委書記兼院長，陳舜瑤（時任中共西北局宣傳部副部長）任黨委副書記兼政治部主任，黃華青任黨委副書記兼副院長，徐勁、華壽俊任副院長。

西北分院遷至西安后，由于在蘭州的中國科學(xué)院所屬單位較多，西北分院在蘭州市盤旋路寧臥莊設(shè)立了“中國科學(xué)院西北分院蘭州各所公共事務(wù)管理處”，其主要職能是為蘭州的中國科學(xué)院各研究單位提供水電暖衛(wèi)、環(huán)境管理、維修等服務(wù)。

文革初期，中國科學(xué)院西北分院黨政領(lǐng)導(dǎo)班子和組織機(jī)構(gòu)運(yùn)轉(zhuǎn)正常。“大串聯(lián)”開始后，群眾組織相繼成立，原有的科研秩序被沖破。

1970年7月15日，中國科學(xué)院下文：“經(jīng)國務(wù)院批準(zhǔn)，同意撤銷我院各大區(qū)分院。分院人員及所屬單位由所在省市負(fù)責(zé)安排處理[（70）科字第19號文件] ”。