騎士團出現於中世紀的十字軍東侵期間，系西歐封建主爲保衛他們所侵佔的領地而建立的宗教性封建軍事組織。
第一次十字軍遠征(1096-1099年)結束後，十字軍陸續佔領了地中海東岸最富庶的地區和最繁榮的工商業城市，並在這一帶建立起4個十字軍國家，其所佔領地首尾相接從南到北竟有1200公里長。爲鞏固這些國家，亟需建立一支常備武裝力量。於是，羅馬教皇又組織起幾個僧侶騎士團，這就是歷史上著名的三大騎士團，即善堂騎士團(12世紀初)、聖殿騎士團(約1118年)和條頓騎士團(1198年)。羅馬教皇給予騎士團各種特權，其中最爲重要的一條是：不受十字軍國家的僧俗統治者管轄。儘管耶路撒冷王國的總主教是教皇的國使，但他也無權支配調遣騎士團。
通過進行"募捐"、接受饋贈、經營商業和掠奪，騎士團的"世俗事業"大獲成功，幾十年之後，騎士團不僅在東方有領地，而且在法國、西班牙、葡萄牙、意大利、匈牙利、捷克、英國等地也有爲數不少的屬地，並擁有許多要塞和城堡。同時，騎士團在十字軍國家中的地位也變得越發重要到12世紀末，僧侶騎士團人數大大增加，僅聖殿騎士團已經擁有15000名團員。
後來，隨着十字軍國家的衰落與崩潰，騎士團在東方已無法立足，但它們並沒有解散，而是身着修道服、披盔戴甲地回到歐洲，繼續效力於教皇。條頓騎士團甚至還在歐洲建立起騎士團國家，對歐洲的政治和軍事生活發揮了長時期的影響。
聖殿騎士團的正式名稱是"基督和所羅門聖殿貧苦騎士團"，始創於1118年前後，其團員主要是來自法國的十字軍騎士。這個獨立的教團內分三個等級：騎士、軍士和教士。他們的徽記是一枚紅十字章，騎士佩戴在白色外衣上，軍士佩戴在黑色外衣上。教皇給予的特權、君主王侯的捐贈以及他們的搶劫，使其逐漸變成了天主教會內最強大、最富有的僧團之一。
然而正所謂樹大招風，福兮禍所倚，正是這些財富和權勢給聖殿騎士團帶來了毀滅之災。13世紀末，西歐封建主在東方所建的殖民地全部被消滅殆盡之後，聖殿騎士團被迫離開巴勒斯坦，轉入法國、英國及西班牙等國活動。而當時統治法國的腓力四世，正陷於財政極其困難的窘境之中。出於覬覦騎士團財產的目的，他暗中與受他保護的教皇克萊門特五世合謀，指控聖殿騎士團爲異端，於1307年9月13日發出了逮捕法國境內全體聖殿騎士的密令。結果，這個騎士團的幾乎全部成員，包括總團長及其副手，統統被關進了宗教裁判所的拷問室，大批聖殿騎士在偵訊過程中被折磨死去，騎士團的組織也隨之瓦解。1312年，教皇克萊門特五世下令，正式解散了聖殿騎士團。
條頓騎士團是三大騎士團中建立時間最晚的一個，但卻是影響最大的一個。它於1198年在巴勒斯坦建立，主要由德意志騎士組成，着白色外衣，佩戴黑色十字章，白色斗篷上繪有紅色寶劍和十字。14世紀末至15世紀初，是條頓騎士團的鼎盛時期，其在南部意大利、希臘、西班牙、法國都有自己的屬地，最大的屬地則在德國。條頓騎士團在歐洲東北的屬地堵塞了波蘭、立陶宛和俄羅斯向波羅的海的出海口。於是波蘭、俄羅斯和立陶宛各民族的力量都聯合起來，同他們的共同敵人--條頓騎士團進行鬥爭。在1410-1466年幾次敗給波蘭、立陶宛等軍隊後，條頓騎士團轉向衰落，淪爲波蘭王國的藩屬，它的成員中已經有一半是波蘭人，騎士團遂失去其原有的顯赫地位，但它仍一直保留到1809年才宣告解散。
善堂騎士團也稱醫院騎士團，其雛型出現於第一次十字軍東征尚未開始的1070年左右，它的任務是進行一些"慈善"工作，比如保護來"聖地"朝聖的西方基督徒，供給朝聖者食宿，醫治生病的基督徒等等，故得此名。它的成員是以耶路撒冷的"聖約翰聖殿"爲中心而聚集起來的，故又稱爲"約翰騎士團"。
但是，第一次十字軍遠征結束後，善堂騎士團的宗旨開始發生變化，從而逐步變成了純粹的封建騎士軍事團體，並在巴勒斯坦地區存在了將近200年。其服裝是綴有白色十字架的黑色外套，後來又改爲紅色外套。
1522年，奧斯曼土耳其帝國大舉進攻羅得島，雖然駐守的騎士團只有500多名騎士和6000多名士兵，但他們面對20萬強敵，毫不畏懼，英勇抵抗，進行了半年多的頑強防禦戰，雖然最終被迫投降，但土軍卻付出了5萬人喪生的慘重代價。奧斯曼國王蘇里曼一世對騎士團的勇氣頗爲讚賞，於是特許騎士團在1523年1月1日安全撤離該島。
1530年，神聖羅馬帝國皇帝查理五世同意把馬耳他島及其附近的戈佐島交給善堂騎士團管轄。於是，騎士團就在馬耳他島上建立了自己的國家，正式稱爲"馬耳他騎士國"。
此後，善堂騎士團進入了鼎盛時期，船帆上標有馬耳他八角十字的戰船橫行於地中海。1798年，拿破崙率領的法國軍隊在遠征埃及的途中，將騎士團從馬耳他島上趕了出去，騎士團再度淪落天涯，到1834年纔在意大利的羅馬紮了根。此後，它們再度轉向經營慈善事業，一直延續到今天，其名稱也改爲"耶路撒冷、羅得島和馬耳他聖約翰軍事護理人員騎士團"。
今天，騎士團的總部設有羅馬商業街的馬耳他大廈，其標誌爲縮寫字母S.M.O.M。像夢蒂岡一樣，這塊土地是屬於他們自己的。雖然騎士團的正式公民只有幾十人，土地也只有這一幢1.2萬平方米的大廈，但它卻與世界上87個國家建立了外交關係。
今天的善堂騎士團非常富有，還擁有衆多的飛機，目前在世界各地共有12000多名騎士，其中包括西班牙國王胡安·卡洛斯，意大利前總理弗朗西斯科·科西嘉，美國前財政部長威廉·西蒙，紐約天主教特倫斯·庫克等名人。
