千灵山景区周围的这些洞群距今已有400余年的历史。目前保护比较完整的是建于明嘉靖三十九年(1560年)的护国宝塔，八角十一级仿木结构，是实心密檐式石塔，高6米多，共雕刻造像154尊。在主峰极乐峰周围还有太古化阳洞、朝阳三慧洞、朝阳洞、罗汉洞、小观音洞、极乐洞等几处佛教洞窟。这些洞穴大部分都是人工在山岩上一锤一钻开凿出来的，在当时来讲可谓工程浩大。据史料记载，“先有极乐峰后有戒台寺”，这些石窟当时一直是高僧静修的地方，这些洞群被恢复后将重现过去的景观。