但是,第一次十字軍遠徵結束後,醫院騎士團的宗旨開始發生變化,他們的首領決定:一部分教友繼續為飢餓和染病的朝聖者從事慈善工作,但其中心任務是建立一支訓練有素、紀律嚴明的騎士軍,從而逐步變成了純粹的封建騎士軍事團體,並在巴勒斯坦地區存在了將近200年。其服裝是綴有白色十字架的黑色外套,後來又改為紅色外套。
14世紀初,在奧斯曼土耳其帝國的進逼之下,騎士團不得不於1310年移到地中海東部的羅得島。1522年,奧斯曼蘇丹蘇里曼一世為了解除進犯歐洲的後顧之憂,大舉進攻羅得島,雖然騎士團只有500多名騎士和6000多名士兵,但他們面對20萬強敵,毫不畏懼,英勇抵抗,進行了整整半年多的頑強防禦戰,雖然最終被迫投降,但土軍卻付出了至少5萬人喪生的慘重代價。蘇里曼一世對騎士團的勇氣頗為讚賞,於是特許這支敵軍在1523年1月1日安全撤離了該島。