1962年，我國(guó)處于國(guó)民經(jīng)濟(jì)最困難的時(shí)期。中央提出“調(diào)整、鞏固、充實(shí)、提高”的八字方針。根據(jù)當(dāng)時(shí)的形勢(shì)，中國(guó)科學(xué)院與西北局商定：撤消陜、甘、寧、青四省（區(qū)）的分院，以中國(guó)科學(xué)院蘭州分院和中國(guó)科學(xué)院陜西分院為基礎(chǔ)，成立中國(guó)科學(xué)院西北分院?？紤]到新疆地區(qū)偏遠(yuǎn)，少數(shù)民族多而集中和資源豐富，保留了新疆分院的建制，歸屬西北分院領(lǐng)導(dǎo)。

1962年4月9日，中國(guó)科學(xué)院在蘭州同時(shí)為中國(guó)科學(xué)院西北分院和西北局科學(xué)技術(shù)委員會(huì)（以下稱(chēng)西北局科委）舉辦了成立大會(huì)。參加會(huì)議的有中國(guó)科學(xué)院在西北地區(qū)的直屬研究所和大區(qū)重點(diǎn)研究所的領(lǐng)導(dǎo)干部、科學(xué)家、科技人員代表；新疆分院、陜西分院、蘭州分院的領(lǐng)導(dǎo)干部，共70人。西北局書(shū)記處書(shū)記王林同志在會(huì)上講了話；國(guó)家科委、西北局宣傳部和西北局科委的負(fù)責(zé)同志出席會(huì)議并作指導(dǎo)。西北分院負(fù)責(zé)同志分別傳達(dá)了“廣州科學(xué)會(huì)議”精神和周恩來(lái)總理、陳毅副總理的講話。中國(guó)科學(xué)院秘書(shū)長(zhǎng)郁文同志參加了會(huì)議，作了講話，并和中共西北局研究了西北分院的設(shè)置、人員精簡(jiǎn)等事項(xiàng)，對(duì)今后的科研工作任務(wù)提出了建議。在這次會(huì)議上，正式宣布了成立中國(guó)科學(xué)院西北分院的決定。西北分院地址在蘭州市盤(pán)旋路寧臥莊。

1962年12月下旬，中國(guó)科學(xué)院與西北局和陜西省委商定：西北分院遷至西安市南郊邊家村。1963年元月1日，西北分院正式對(duì)外辦公。時(shí)逸之任黨組書(shū)記兼院長(zhǎng)，徐勁 、董杰任副院長(zhǎng)。1964年后，按中央精神，中科院西北分院成立中共西北分院黨委，建立政治部，時(shí)逸之任黨委書(shū)記兼院長(zhǎng)，陳舜瑤（時(shí)任中共西北局宣傳部副部長(zhǎng)）任黨委副書(shū)記兼政治部主任，黃華青任黨委副書(shū)記兼副院長(zhǎng)，徐勁、華壽俊任副院長(zhǎng)。

西北分院遷至西安后，由于在蘭州的中國(guó)科學(xué)院所屬單位較多，西北分院在蘭州市盤(pán)旋路寧臥莊設(shè)立了“中國(guó)科學(xué)院西北分院蘭州各所公共事務(wù)管理處”，其主要職能是為蘭州的中國(guó)科學(xué)院各研究單位提供水電暖衛(wèi)、環(huán)境管理、維修等服務(wù)。

文革初期，中國(guó)科學(xué)院西北分院黨政領(lǐng)導(dǎo)班子和組織機(jī)構(gòu)運(yùn)轉(zhuǎn)正常?！按蟠?lián)”開(kāi)始后，群眾組織相繼成立，原有的科研秩序被沖破。

1970年7月15日，中國(guó)科學(xué)院下文：“經(jīng)國(guó)務(wù)院批準(zhǔn)，同意撤銷(xiāo)我院各大區(qū)分院。分院人員及所屬單位由所在省市負(fù)責(zé)安排處理[（70）科字第19號(hào)文件] ”。