樞密院是總理全國軍務的最高機構，簡稱“樞府”。宋代樞密院與中書門下共掌文、武大權，稱為東、西“二府”。《宋史·職官志二》說：
宋初，循五代之制，置樞密院，與中書對掌文、武二柄，號為“二府”。
又《通考·職官考四》說：
唐末，諸司使皆內臣領之，樞密使始與宰相分權矣。降及五代，改用士人，樞密使皆天子腹心之臣……其權重於宰相。太祖受命，以宰相專主文事，參知政事佐之，樞密使專主武事，副使佐之。
樞密使為樞密院之長官，或稱知樞密院事，副長官稱樞密副使或同知樞密院事，簽書樞密院事或同簽書樞密院事。其下設都承旨和副都承旨，負責“承宣旨命，通領院務”，由武官擔任。還設編修官，不定員。樞密院“掌兵籍，虎符”，若得皇帝的批准，有調動兵馬之權。樞密使的地位略低於宰相，與參知政事、門下侍郎、中書侍郎、尚書左丞等統稱為“執政官”。樞密使這一官銜在唐太宗時就設定了，但唐代的樞密使只負責管理軍事情報，機密情報之類，由宦官兼任，直至五代時還保留這個官銜。而宋代的樞密使地位抬得這么高，權力這么大，其原因是與當時國內外的階級矛盾、政治形勢有關。宋時階級矛盾一開始就相當尖銳。北宋初年就發生了王小波、李順起義。在邊境，又有契丹、西夏等少數民族政權的並立，形成邊防的緊迫局勢。內憂外患使得宋王朝需要一支相當龐大的軍隊，方能抵抗少數民族的入侵和鎮壓國內人民的反抗，因而，就需要一個強有力的機構來管理這支軍隊，這就是宋代設立樞密院的原因。同時，樞密使的設立又可以削弱宰相的權力，也是強化皇權的重要措施。所以，元豐改制後，樞密院照樣保存下來。但是北宋的樞密使與中書的關係都極不正常。王明清的《揮麈錄·後錄》說：“樞密使每朝奏事，與中書先後上，所言兩不相知，以故多成疑貳。”宋神宗的御史滕達道也說，戰守安危之所政，中書主打，樞密使主守，這樣怎么能取勝呢？明確指出這種互相牽制所造成的殆誤軍國大政的弊端。南宋統治者接受了這一教訓，為了對付經常性的對外戰爭，不得不實行兵政合一，設立“平章軍國重事”這一官銜。
北宋初年，仍然沿襲後周的制度，由殿前司和侍衛司統領全部禁軍。但是趙匡胤在禁軍的人事安排、組織編制和部署等方面，都作了重大的調整。據《長編》卷2記載：建隆二年（公元961年）的一個晚上，趙匡胤把曾經幫助他奪取政權的禁軍主要將領石守信、王審琦、高懷德等人請來喝酒，對他們說，自己當了皇帝後整天提心弔膽，還不如作節度使快樂。石守信等人說，現在天命已定，誰還敢有異心呢？趙匡胤說，你們雖然沒有異心，但如果你們手下人貪圖富貴，一旦把黃袍加在你們身上，你想不乾也不行呀！石守信等人領會趙匡胤的意思，大為震驚，次日即稱病，主動要求解除軍職。趙匡胤答應給他們以優厚的待遇，同他們結成兒女親家，說這樣就可以使“君臣之間，兩無猜疑”，趙匡胤就把石守信等人調到外地去當節度使，脫離他們原來掌握的軍隊，這就是有名的“杯酒釋兵權”。趙匡胤在解除石守信等人的軍權之後，提拔了一批資歷較淺，容易駕馭的人當禁軍將領。但就是對這些人也嚴加控制，處處防範。
同時，趙匡胤還取消了殿前都點檢和殿前副都點檢這兩個職務，由殿前都指揮、侍衛馬軍都指揮使、侍衛步軍都指揮使，分別率領禁軍，合稱“三衙”，互不統屬。禁軍從此沒有統帥，將領分別聽命於皇帝本人。“三衙”長官都指揮使之下，各設副指揮使，都虞候，副都虞候各一員。真宗時，廢除侍衛兩司的都虞候之職。南宋時，殿前司掌管殿前各班、直和步、騎各指揮的名籍，侍衛親軍馬、步軍司分掌馬軍、步軍各指揮的名籍。並負責屬下軍隊的管理、訓練、戍守、升補、賞罰等政令。“三衙”與樞密使所掌之兵權不同：樞密使有發兵之權，而無統兵之重；三衙有統兵之重，而無發兵之權。
