198年3月5日，條頓騎士團成立於阿卡(Acre)，今以色列境內，其後一直以阿卡作爲總部至1291年。
條頓騎士團，早期成員全來自德意志民族，騎士團屈服波蘭後被迫接受波蘭人。條頓騎士團是三大騎士團中最後成立的一個。1187年哈丁戰役之後，聖城耶路撒冷很快被薩拉丁的軍隊攻克。教廷號召發動新的東征，奪回聖城，這便是第三次十字軍東征。當時神聖羅馬帝國皇帝巴巴羅薩率領德意志軍隊率先開赴小亞細亞，可惜紅鬍子出征未半便中道崩殂，他的兒子施瓦本公爵繼承遺志繼續東征。條頓騎士團就是在這樣的背景下成立的。
1190年，十字軍經過苦戰，終於攻下了重鎮阿克，一些德意志騎士在阿克建立了一個行善的醫護組織，這就是後來的條頓騎士團，不過建立之初它並沒有軍事任務，只是照顧傷患。
1198年，條頓騎士團以聖殿騎士團爲樣板，改造爲軍事修會，執行和醫院騎士團一樣的教規。因此有些資料上把條頓騎士團成立的時間記爲1198年，這也不無道理。在小亞細亞期間，條頓騎士團發展緩慢，跟聖殿騎士團和醫院騎士團相比，實在不能同日而語。從某種程度上講，條頓騎士團成立的不是時候，聖城時代已經過去，前往小亞細亞的不是絡繹不絕的朝聖者，而是歐洲君主率領的大軍。在這些位高權重的君主手下，騎士團作爲獨立的組織要想發展實在是太難了，更何況在他們前面還有聲名遠揚的聖殿騎士團和醫院騎士團。在小亞細亞的經歷對於條頓騎士團來說實在是乏善可陳。
第一次十字軍遠征(1096年-1099年)，是唯一一次勝利的東征，共有約10萬人參加。
騎士十字軍兵分四路，1097年會合於君士坦丁堡，隨即渡海進入小亞細亞，攻城奪地，佔領了土耳其人都城尼凱亞等城，大肆擄掠，於1099年7月15日佔領耶路撒冷，進城後殺了7000人，接着按歐洲國家模式，在地中海沿岸所佔地區建立若干封建國家。十字軍橫徵暴斂，促使人民不斷起義，政權動盪不定。
第二次十字軍遠征(1147年-1149年)，是在法國國王路易七世和"神聖羅馬帝國"皇帝、德意志國王康拉德三世率領下進行的。土耳其人於1144年佔領愛德沙，是這次遠征的起因。出動較早的德意志十字軍在安納托利亞被土耳其人擊潰。法國十字軍攻佔大馬士革的企圖也落了空，故這次遠征未達到任何目的。
第三次十字軍東征(1189年-1192年)期間，來自德意志地區的騎士多次獲贈土地和城堡。(1195年4月，香檳區的亨利伯爵贈提爾(Tyre，今黎巴嫩境內)作爲據點，1196年3月再贈其在雅法(今特拉維夫附近)的封邑;另有德皇亨利六世在1197年年贈送意大利和西西里的教堂，修道院和醫院，逐漸在耶路撒冷地區形成勢力。
1198年3月5日，條頓騎士團成立於阿卡(Acre)，今巴勒斯坦境內，其後一直以阿卡作爲總部至1291年。
1199年9月19日，教皇英諾森三世頒佈訓令，規定條頓騎士披聖殿騎士一樣披風(白色披風，上繡紅色十字和寶劍)，戴黑色十字章，執行醫院騎士團一樣的團規。
第四次十字軍東征(1202年-1204年)，由教皇英諾森三世發動。目的本是要攻佔穆斯林所控制的埃及，作日後行動的基地。十字軍主要由法國和意大利貴族組成，在沒有足夠的金錢付給威尼斯人以便渡海到埃及的情況下，十字軍按威尼斯貴族將領的建議轉去攻打扎拉城(現克羅地亞的扎達爾)。並利用拜占庭國內的糾紛轉而攻打君士坦丁堡，在搶劫和破壞後血腥屠城三天。
大戰過後，威尼斯佔去拜占庭帝國八分之三的領土(包括愛琴海，亞得里亞海沿岸許多港口和克里特島)。而十字軍則以君士坦丁堡爲中心建立了拉丁帝國和兩個附庸於君士坦丁堡的拉丁帝國的國家，分別是雅典公國和亞該亞公國。
13世紀初，隨着醫院騎士團和聖殿騎士團對立加劇，醫院騎士團拉攏條頓騎士團以對抗控制着耶路撒冷地區主要軍事據點的聖殿騎士團，其間條頓騎士團從醫院騎士團手中獲得馬加特堡。
1210年，埃爾曼·馮·薩爾扎(Hermann von Salza, 1179-1239)擔任條頓騎士團團長，條頓騎士團在其指揮下在耶路撒冷地區獲得一定的勝利，並參與第五次十字軍東征，進入埃及，但最後在曼蘇拉戰役(Battle of al-Mansura, 1221年8月30日)中慘敗，埃爾曼·馮·薩爾扎與聖殿騎士團團長一同被俘。在埃爾曼·馮·薩爾扎擔任團長期間，條頓騎士團獲得教廷頒發的贖罪證(1216年2月18日)，以及教皇霍諾留斯三世授予的113項特權(1221年1月9日)。
1226年，條頓騎士團與神聖羅馬帝國皇帝腓特烈二世達成協議，獲得普魯士境內的所有貴族特權。
1234年，條頓騎士團贏得瑟格納戰役的勝利，教廷控制普魯士全境，將之租借給條頓騎士團，但直到1285年，條頓騎士團才最終征服普魯士地區，迫使普魯士人改宗天主教。其間，1237年4月合併利沃尼亞的寶劍騎士團，並於1241年初開始進軍諾夫哥羅德公國。
1410年7月15日，著名的格林瓦爾德會戰爆發。波蘭-立陶宛聯軍3.9萬人在波蘭國王弗拉迪斯拉夫·雅蓋洛指揮下，在坦倫堡和格林瓦爾德附近與條頓騎士團約2.7萬人的軍隊展開決戰。條頓騎士團在此戰中精銳盡失，8千名騎士被殺，2千人被俘，騎士團大團長馮·容金根等多數首領陣亡。條頓騎士團從此一蹶不振，波蘭由此逐漸收復失地，並獲得格但斯克等城鎮和波羅的海出海口。
坦倫堡一戰使騎士團遭受了毀滅性的打擊，其意義類似於哈丁戰役對於耶路撒冷王國的意義。騎士團國就此走上了衰亡的道路。外戰遭受慘敗後，騎士團國從上到下又陷入了內亂。農民不滿騎士團的橫徵暴斂，起來反抗;騎士團內部的權力鬥爭愈演愈烈;各城市和地方貴族因爲繳納高額賦稅，要求參與決策。
1440年，53位貴族和19個城市在馬林堡建立了旨在反抗騎士團專橫統治的普魯士聯盟。
1453年，普魯士聯盟與波蘭結成同盟，由此引發了連續13年的戰爭，直到1466年簽訂第二次託恩和約方纔結束。這次和約使得騎士團國又損失了大量的領土，其中包括馬林堡。在政治上，騎士團國要承認臣服於波蘭，這一條在騎士團內部引起了極大的爭議。
德意志分團希望從神聖羅馬帝國和教廷那兒獲得支持，1494年，德意志分團長承認臣服於神聖羅馬帝國皇帝馬克西米連一世(Maximilians I.)。
外患內憂之下，此時的騎士團國已經走到山窮水盡之處。路德的宗教改革使騎士團再一次走上歷史的分水嶺。
1511年，來自霍亨佐倫家族的年僅21歲的阿爾布雷希特(Albrecht)被選爲條頓騎士團第37任大團長，他也是作爲一個軍事修會的條頓騎士團最後一任大團長。
1520年，由於Albrecht拒絕臣服於波蘭，騎士團國與波蘭之間爆發戰爭，騎士團國被擊敗。鬱悶之下，Albrecht回到德意志。當時的德意志境內正在進行着轟轟烈烈的宗教改革，阿爾布雷希特(Albrecht)很快被路德新教所吸引，並結識了宗教改革的發起者馬丁·路德。
在路德的建議下，阿爾布雷希特(Albrecht)辭去條頓騎士團大團長一職，將騎士團國世俗化，改爲公國，在公國內進行宗教改革，對外則拒絕對波蘭的臣屬關係。騎士團內部的保守勢力以及德意志的天主教貴族對於阿爾布雷希特(Albrecht)的改宗十分不滿，不過阿爾布雷希特(Albrecht)在1527年娶了北方強國丹麥國王腓特烈一世的女兒，反對派對他無可奈何。
阿爾布雷希特(Albrecht)的改宗使條頓騎士團作爲一個軍事修會的歷史走到了終點。原來屬於騎士團國的普魯士已經被阿爾布雷希特(Albrecht)新教化，立窩尼亞被波蘭佔據，愛沙尼亞被瑞典吞併，騎士團國已經沒有一塊屬於自己的領地。
在這種形勢下，條頓騎士團基本放棄了軍事任務，把注意力集中到管理自己的產業上，此後它僅作爲一個宗教組織而存在。
1809年，拿破崙侵入德意志後，宣佈解散作爲軍事組織的條頓騎士團，騎士團僅在奧地利有容身之處。
直到1834年，奧地利皇帝重建騎士團，並使之成爲宗教慈善機構。
1929年，條頓騎士團改組爲一個純宗教的騎士團，其名稱也由OT(條頓騎士團，Ordo Teutonicus)變爲DO(德意志騎士團，Deutscher Orden)。
如今德意志騎士團一共有大約1000名成員，他們主要從事慈善事業，包括照料病人和老人。目前騎士團分爲意大利、德國、奧地利、捷克、斯洛文尼亞五區進行管理，其總部設在奧地利的維也納。
騎士團成立之初，教皇批准他們穿和聖殿騎士團一樣的白色長袍，不過上面繡着的是黑十字，作爲兩者的區別。此後，白底黑十字就成爲條頓騎士團的標誌。條頓騎士團旗幟上的十字跟一般的十字不一樣，它偏向左邊，而不是左右對稱。
大家如果注意一下北歐國家的旗幟的話會發現，瑞典、丹麥、芬蘭、挪威、冰島等國的國旗上都有這種偏向左邊的十字，這種十字被稱爲斯堪的納維亞十字。
條頓騎士團國雖滅亡，但騎士團的黑十字標誌仍被繼承並延續下來，在第二帝國、魏瑪共和國以及第三帝國的軍旗上，黑十字都是重要的標記，它代表了從條頓騎士團開始的一脈相承的軍事傳統。
