西晋初年（约公元3世纪）开凿在黄河北岸大寺沟的峭壁之上，正式建立于西秦建弘元年（420年），上下四层。最早称为唐述窟，是羌语“鬼窟”之意，唐代称龙兴寺，宋代称灵岩寺，明朝永乐年后称炳灵寺，“炳灵”为藏语“仙巴炳灵”的简化，是“千佛”“十万弥勒佛洲”之意。
       据释道世《法苑珠林》文献记载，炳灵寺石窟的开凿历史可上溯到“晋泰始年”，即公元265年。在炳灵寺众多的洞窟中，历史最为久远的，最重要和最有价值的是坐西面东的169号窟。1962年在窟中的第6龛发现有西秦“建弘元年（公元420年）岁在玄枵三月二十四日造”的墨书题记，此外，还在僧人供养像中发现有“大禅师昙摩毗之像”的题记。在第3龛存有“大代延昌四年（公元515年）”的墨书题记等。169窟的题记是迄今为止中国现存石窟中有明确纪年的最早造像题记。比敦煌莫高窟发现的最早题记还要早整整100多年。169窟题记的发现对研究炳灵寺石窟的建造年代提供了可靠的依据，同时，对全国其它石窟的断代研究也具有重要的参考价值。
       此后，炳灵寺石窟又历经北魏、北周、隋、唐、五代、宋、元、明等各朝代的不断开凿、营建、修葺、扩建，其间包括吐蕃王朝时期、确斯罗藏族政权时期及其后藏传佛教的长期经营，规模逐渐扩大，形成了仅次于敦煌石窟寺的具有藏汉两种风格的著名石窟寺。
       从明永乐年间兴起的格鲁派是对炳灵寺影响最大的教派，被永乐皇帝封为“大慈法王”的宗喀巴第四大弟子绛钦却杰代表宗喀巴进京朝觐时，曾两次路过炳灵寺宣讲佛法教义。其后格鲁派在寺院内相继进行了一系列的弘法活动，对炳灵寺的寺院建筑、洞窟、壁画等连续两次进行了重修、重绘，在炳灵寺重绘的窟龛中，格鲁派壁画占了百分之八十以上。并且，还重新开建了一些新的洞窟，从而形成了炳灵寺石窟汉藏佛教并存的独特风貌。
       清顺治2年，炳灵寺还确立了藏传佛教活佛转世体系，这时寺内佛殿经堂密布，僧舍遍沟，僧人巨增，盛况空前。并形成了上下寺之分，有上一千，下八百僧众之说，隶属于炳灵寺的中小属寺遍及甘、青、内蒙等地共60余座。这一时期石窟寺内历史上遗留下来的佛教造像雕塑、壁画等艺术珍品都得到了良好的保护并有所增加，同时，寺殿内供朝拜的各类铜质佛造像、彩绘泥塑像、木刻雕版造像、壁画、唐卡等藏传佛教艺术也得到长足发展，据传仅唐卡就珍藏有上万件，三世达赖喇嘛索南嘉措、拉卜楞寺嘉木祥三世活佛都曾专程来炳灵寺朝拜。

       中华人民共和国成立之后，1952年9月，中央人民政府文化部组织中央美术学院、西北军政委员会文化部和敦煌文物研究所三个单位抽调13名专家、学者、技工，组成“炳灵寺石窟勘察团”，对炳灵寺石窟作了为期一周的细致全面的勘察和了解：摄影、临摹、测绘、洞窟内容调查等，并首次对石窟下寺区洞窟初步编号，共编124个窟龛。
       1953年10月，中央人民政府文化部在北京中国历史博物馆举办了“甘肃省炳灵寺石窟图片展览”，展出了炳灵寺石窟勘察团在考察中临摹的绘画和拍摄的照片共173件，时任文化部社会文化事业管理局局长的郑振铎先生亲自为展览撰写了《炳灵寺石窟概述》。
       1955年5月，永靖县炳灵寺文物保管所成立，对有价值的洞窟一一进行编号，结束了炳灵寺石窟长期无人管理的年代。至此，使这千年石窟和胜境，重照寰宇。1961年3月4日，国务院正式公布炳灵寺石窟为第一批全国重点文物保护单位。
       1963年4月至5月，甘肃省文物工作队与炳灵寺文物保管所对炳灵寺石窟进行第二次勘察，第一次登上了最高的169窟，发现了窟内保存众多的西秦时期的造像和壁画，并在第6龛发现了西秦建弘元年（公元420年）墨书造像题记。
       1967年修筑石堤护卫窟群。1982年架起了沟通大寺沟两岸的拱形水泥大桥。1999年国家又花巨资进行了石窟维修加固和渗水治理工程。