漢劉邦凱旋登基後，地方士紳即籌款於墩上興建廟宇一座。因劉邦做了皇帝，就起名為皇墩廟。為永銘漢高祖劉邦的功績，建集名曰皇墩集。皇墩廟於皇墩集北頭，院中有大鐵鐘，鑄有：“皇墩廟興建於漢王即帝位六年夏，歲次庚子。落成於漢王即位八年三月初一日，歲次壬寅。”
五河縣誌記載（86版），皇墩是漢高祖劉邦追擊楚霸王項羽時築起的。公元前202年，楚漢相爭，垓下一
戰，項羽敗績，從靈璧東渡濉河南下，劉邦追擊其後，軍駐於皇墩廟處，掘土築墩，宿營其上。同時還駐兵前營、後營、西營和馬場。後挺兵至安徽和縣墩北，距烏江20公里。項羽敗至烏江口，亭長以船待渡。項羽想起當初舉義旗時，江東八千子弟相從，如今僅存數騎，無顏再見江東父老，遂拔劍以自刎。
皇墩廟很早就流傳著一首《古皇墩贊》，贊曰：“皇墩古建銘劉邦，千載留傳聲名揚。後澮前淮天險阻，相爭漢楚各逞強。項兵敗績走垓下，高墩揮軍迫霸王。窮寇迫臨烏江口，赧顏父老刎頸亡。”
