多級火箭在確立為現在的名稱之前，對這一類太空飛行器的稱呼。
1961年4月20日,美國總統提出研製登月火箭的構想,並詢問60年代能否把人送上月球.當時布勞恩斬釘截鐵地回答:"行!"...1929年又提出多級火箭的結構.發表了關於多級火箭的論文《太空火箭列車》首次論證了利用多級火箭克服地球引力的構想....
俄羅斯“火箭之父”齊奧爾科夫斯基對於火箭運動及航天學的貢獻是多方面的，其中就包括他提出的多級火箭理論。由於單級火箭的質量比較小，難以達到進入太空所需要的速度（宇宙速度），因此齊奧爾科夫斯基較早構想將多枚火箭串聯起來，當最下面一級推進劑消耗完後，其殼體就自行脫落，從而就能提高剩餘火箭的質量比，以此類推，最末一級火箭就能夠達到所需要的宇宙速度。1929年，齊奧爾科夫斯基發表了關於多級火箭的論文《太空火箭列車》，完整闡述了多級火箭思想。他在這篇文章中指出：“所謂火箭列車，我指的是把幾枚火箭縱向串聯起來，有的在空氣中工作，最後的幾級進入行星際和恆星際空間。但只有最後一級能夠到達宇宙空間，其他各級由於速度不夠而返回地球。單級火箭如果要達到宇宙速度，它必須攜帶大量的燃料。因此，為了達到第一宇宙速度，即每秒8千米，燃料的重量至少是火箭結構重量的4倍。這將使反作用推進裝置的設計高度複雜化。而火箭列車可以達到很高的宇宙速度，同時也能把燃料的攜帶比率限制在可以實現的範圍之內。”齊奧爾科夫斯基列出了一個換算表格，顯示出多級火箭各級能達到的最大速度與噴氣速度之比。例如，如果噴氣速度為每秒3千米，那么需要7～8級的火箭才能達到足夠的宇宙速度，最後一級將成為一顆人造地球衛星。當然，在齊奧爾科夫斯基撰寫這篇論文的時候，液體火箭還沒有出現，他依據的數據是火藥火箭的參數，因此估計的火箭級數偏大了很多。後來真正出現的多級火箭一般以二、三級居多，最多的也只有五級。
