明洪武十一年（1378）置，屬太常寺，掌祭祀天地、神只及宗高、社稷時樂舞，由提點、知觀等官主管。
明洪武十一年（1378）置，屬太常寺，掌祭祀天地、神只及宗高、社稷時樂舞，由提點、知觀等官主管。清初沿置，乾隆八年（1743），改觀為所，知觀為知所；十三年（1748），又改所為署，改提點為署正，知所為署丞，屬樂部。
洪武十二年（1379年），明太祖敕建為“神樂觀”。澧泉井碑立於永樂四年，泉水是明代洪武、建文、永樂三朝到天壇祭天時所用之淨水。傳說“天降甘水，地出澧泉”，井水自天來，永樂四年冬季，一日永樂皇帝登壇祭天，誠意感動天地，第二天天空出現祥雲繚繞、鸞鶴飛舞景象，皇帝聞奏，立刻率百官駕幸朝天宮對天叩拜，愈發感動上蒼，這天夜晚天降甘露於鐘山，天明澧泉井出神樂觀。
澧泉井逢久旱不雨，井水仍始終不竭。明神樂觀今無處可尋，僅存六角井欄、贔屓及澧泉碑遺物，澧泉碑歷經滄桑，風雨剝蝕，碑文難以辯認，但碑額篆字“瑞應澧泉之碑”仍依稀可識，此六字為明翰林學士胡廣撰寫。贔屓經過歷史風雨，已傷痕累累，但作為明神樂觀遺址的見證倖存至今，這兩處遺物原保存於今天壇新村江蘇冶金機械廠內現遷移於白馬石刻公園內保護。
朱元璋定都南京後，即開始陸續興建宮室廟社，其中在今光華門(明時稱正陽門)外東南一帶，建有規模宏大、用於祭祀天地山川的“大祀壇”、“山川壇”等，並附有一系列輔助建築群，內中就有建於洪武十一年(1378年)的“神樂觀”。從古“明都城圖”中可以看出，神樂觀地處大祀壇與山川壇之間，其性質是“為郊廟習樂之所”，即專門為祭祀天地山川活動時服務的音樂舞蹈機構，故名“神樂觀”。可能有些讀者還不知曉，在音樂方面，朱元璋可以說能算得上是個內行，他很重視音樂，因而作為音樂舞蹈機構的神樂觀，組織規模也就非同一般了。
當時南京共有大觀兩所，中觀16所，小觀50所。其中的兩所大觀，一個指朝天宮，另一個便是神樂觀。雖說是時朝天宮是全國道教的管轄中心，又是南京宮觀的主要管理中心，但神樂觀卻不受其管轄。它直屬禮部太常寺，並設有正六品提點和正八品知觀負責掌管。全觀有樂工62人，歌工12人，引舞2人，協律郎1人。舞蹈分文武兩組，各有舞生62人，加上舞師2人，共130人。舞樂兩隊共達200多人(有說600人)，皆為道士。
神樂觀內的這些樂舞生，有著一套嚴格的挑選、培養、考核、淘汰和給養制度，成員俱系少年出家，投師訓練，經久有餘。每逢春秋兩季，皇帝親臨南郊祭祀，整個過程都有一整套隆重的禮樂相伴，以示對天地神靈的虔誠。除此以外，發生嚴重災荒及朝廷有重大事件而舉行祭祀活動時，也都是神樂觀樂隊出場演奏。
神樂觀地盤比朝天宮大得多，內有山門、大殿、畫廊、祠堂、食堂、倉庫、住房、提點公房等，道院147房，且亭台樓閣林立。朱元璋去世後不久，北京燕王朱棣起兵“靖難”，攻破南京，建文皇帝下落不明。有一種民間流傳很廣的說法，當年建文就是由皇宮通往神樂觀的地道中逃匿出亡的。
明亡後，神樂觀曾改建為真武大帝廟，至清代中葉，神樂觀開始衰微，隨著歲月流逝，古神樂觀早已淹沒於歷史長河之中。1982年文物普查中，在天堂村西的江蘇冶金機械廠內發現原神樂觀內的澧泉碑及石井欄，此外關門口附近尚存一口古井。關門口古稱“觀門口”，即神樂觀大門遺址。經市文管會論證，石井欄、石碑、古井確係神樂觀遺物。
許多人都知道，舊時金陵四十八景中曾有“神樂仙都”一景。
