民國《續修臨沂縣誌》中載：寶泉寺始建於宋，有殿堂、僧墓和石塔等。寺前臨涑水，沿河湧泉棋布，清澈甘甜，故名寶泉。
1318年（元延祐五年），重修寶泉的文刻有“青竹綠水，秀麗蔚然”的文字。寺院東西兩側怪石嶙峋，綿亘里許，如虎、如猴、如車、如牛，因形而取名。寺前多化石，有魚蝦蚌蛤等，形態惟妙惟肖，別具情趣。
抗日戰爭期間，寶泉寺毀於戰火。現僅存墓塔數座，石碑10塊，其中元碑1塊，明碑2塊，清碑2塊。1989年以來，美華集團投資重建了寶泉寺，重修了大雄寶殿，三尊大佛，十八羅漢、寶泉寺南大門等，千年古寺風采重現。
