又因該廟與
祀典武廟同為祭祀
關公的廟宇,且面積較小,因此一般人都稱此廟為小關帝廟,與祀典武廟的大關帝廟並列台南兩大祭祀關公的廟宇。
與大關帝廟不同的,該廟不但面積較小,19世紀前也為民間所興建維護,因此維護上不若祀典武廟。不但如此,在經過多次整建後,該廟留存部分,僅剩下當初武廟的正殿部分,因此中華民國
內政部於1985年指定該建物為古蹟時,特地命名為“開基武廟原正殿”。
1945年該廟受盟軍轟炸,幾乎全毀。二戰後,經過地方仕紳籌款後,才於原址重建。之後,又經過數次整修。而雖然現今古蹟為1976年所興修,不過該正殿部分仍依稀可見以往風貌。除此,正殿所留存的匾額等文物也頗為豐富。