波托馬克軍團制建於1861年,但起始規模只有一個軍(Corps)的大小。前身為歐文·麥克道爾準將率領的東北維吉尼亞軍團(Army of Northeastern Virginia),東北維吉尼亞軍團首次大型作第一次馬納薩斯戰役就被聯盟軍擊敗,轉進至華盛頓特區後,喬治·布林頓·麥克萊倫少將顯著改變了這支部隊的架構。喬治·麥克雷蘭
麥克萊倫原本奉派指揮波多馬克師團(Division of the Potomac),包含麥克多爾的東北維吉尼亞部隊與約瑟夫·K·曼斯菲爾德準將的華盛頓部隊。1861年7月26日,麥克萊倫合併了納撒尼爾·P·班克斯少將的雪蘭多亞河谷部隊,正式編成波托馬克軍團,由東北維吉尼亞、華盛頓、巴爾的摩與雪蘭多亞的軍力組成。軍團起始有四個軍,但在半島會戰後,兵力耗減至相當於兩個軍左右。第二次馬納薩斯戰役,約翰·波普的維吉尼亞軍團被聯盟軍擊敗,維吉尼亞軍團解散,大多數兵員又併入本軍團。1862年8月15日,麥克萊倫編成人們所熟知的波托馬可軍團。8月20日麥克萊倫正式接手。