西汾阳医院创建于1889年，前身是美国基督教华北公理会创办的教会医院。1889年（清光绪15年），美国基督教总差会派文阿德来山西汾阳进行传教活动。文阿德是奥柏林神学院毕业的一位医师，他借医术以传教，在汾阳推行西医治疗。1890年，文阿德在汾阳城内南水井（街）购置了一块约10亩的空地，建起礼拜堂、住宅、戒烟所。文阿德自己配药，戒除居民烟瘾，戒烟所逐渐扩展到治疗简单的内外科疾病。外科对痈肿、疖子、体表小瘤、包皮等施以小手术，内科主要治疗外感、霍乱、肠胃病等。这是山西汾阳医院的雏形。

1909年，美国方面派出第一个专职医务人员——约翰·霍布金斯医科大学毕业的万德生来到汾阳进行医学传教。1910年，万德生在西门街购买民房一处，作为病房、手术室，并开始接收住院病人，将南水井（街）旧址作为门诊部。同时聘请北京医科学校毕业生马文昭等加强医疗力量、扩大业务。

1914年，山西省都督及汾阳公署与万德生达成协议，允许将二府街道北的一块公地旧址，作为医院新址。并商定新医院不再冠以“公理会”“施”一类的名称，命名为“汾州医院”。由省政府、地方士绅、教会三方筹资，进行兴建。协议达成后，万德生即返美募捐建院经费。

1916年，新址汾阳医院破土动工。这年春天，万德生第二次来到汾阳，并从天津雇到安装人员和泥瓦匠，动工建造二府街新医院。 1921年，主体工程基本完工。这就是保存至今的面积近7000平方米的“U”字形大楼，正面为4层，东西各3层，大楼外有广阔的庭院。修楼堆积的土堆，建成3座别致小山，大楼周围有花亭，东有花园，西有假山，栽各种奇花异木，成为美丽的花园式医院。

新医院可进行阑尾、疝气、截肢、骨结核、卵巢囊肿及剖腹产等外科手术，并进行尸体解剖和医学检验工作。是当时省内医疗技术力量雄厚、医疗设备较完善的一所西医院，吸引了周围各省的患者前来就诊，被誉为“协和第二”“小协和”。

1923年，附属于汾州医院的高级职业护士学校成立，教务长为美籍护士孔美玉。首届招收12人（毕业7人），此后每年招收，不断扩大，一直延续下来，开始了伴随汾阳医院医疗事业汾阳特有的护理教育。

1951年4月15日至5月16日，汾阳医院作为省内首批五所医院之一，正式被山西省政府接管，美国教会和山西省卫生厅的接管小组进行了交接。医院命名为“山西省立汾阳医院”，成为山西省卫生厅直属单位。当时医院医疗水平在晋中和全省其他地区居领先地位，医院可开展胃切除、肠梗阻、胆结石、肠吻合、骨折整复内固定等手术。