騎士團的中央機構主要由全體騎士大會、行政議事會、總團長組成。其中總團長(The Grand Master)爲最高首領，是領土最高所有主，也是神聖羅馬帝國的諸侯，由選舉產生，終身執政。團長下設五大“總管”組成行政議事會，輔助執政：大統領 (the grand commander)掌管土地、軍事統領(the supreme marshal)是軍隊的指揮官、財政官(the treasurer)是財政首腦、慈惠院檢察官(the supreme hospitaller)掌管宗教事務、軍需官(the supreme draper)掌管軍糧供應，後來又監管貿易往來。行政議事會每年只開一次例會，或者在特別情況下臨時召集。
騎士團在成立之初，成員由兩個階層構成：騎士兄弟會和教士兄弟會。騎士兄弟(Knight-brethren)嚴格遵守三項誓言：安貧、守貞、服從，而且必須幫助病弱並同異教徒作戰。騎士兄弟披的黑十字白披風，平日進行嚴酷緊張的軍事訓練。他們生活方式簡樸嚴格而且單調，“成員從團裏領得一把寶劍、一塊麪包和一件舊袍，不能佩戴家族的紋章，不能與凡俗之人同住，不能常去奢華的城市，也不能單獨騎馬外出、讀信或寫信;每晚要被鐘聲叫醒四次去唱詩，白天去做四次祈禱，星期五要受到修道生活的訓練，即使團長也沒有權力給任何人休假……，如果一個成員有任何不端行爲，就召開祕密團會，決定對其懲罰。”騎士兄弟是騎士團的核心力量。
教士會兄弟(priest- brethren)和騎士會兄弟不同，他們沒有三項誓言的約束，他們的主要職責是給民衆進行祈禱並從事一些宗教事務，他們爲騎士和在醫院的病患主持聖事，並作爲隨軍牧師同騎士們一起出徵。教士兄弟在普魯士和立窩尼亞不能被選爲團長、統領和副統領，但在德國可以被選爲統領。後來，在這兩個階層之外又增加了第三個階層——軍士兄弟會(Sergeants, serving brothers)，他們披着灰色，上面有三角十字架的較小斗篷，這表明了他們在騎士團的地位。
騎士團對波羅的海地區的征服效率之高在當時來說令人驚訝，原因並不在人數的多寡。這一方面依賴於騎士們優良的裝備、勇敢的精神、優秀的作戰技能之外，另一方面也由於當地武裝力量裝備的低劣、防禦技術的低下以及軍隊組織的渙散。
在中世紀，由騎士組成的騎兵部隊在戰鬥中具有明顯的優勢，他們往往能決定戰爭的勝負，儘管許多學者對中世紀騎兵戰鬥力的優勢提出質疑[注：里昂認爲“ 騎兵在軍事上從未勝過步兵”，巴赫拉赫認爲，在中世紀的戰役中騎兵並不是戰術上的主導因素，因爲沒有弓箭手或其他步兵支持的情況下，騎兵的衝鋒很少能夠成功。
中世紀“在絕大多數戰役中，徒步作戰的人數都遠遠超出馬背上作戰的人數：5:1或6:1的比例在西方看起來是正常比例，而拜占庭人的這一比例則接近4:1”。但是騎兵在中世紀許多著名的戰役中仍是最終決定勝負的力量。在中世紀，每一名騎士在正式成爲一名戰士之前，都要經過很長時間的體格、打鬥、騎馬以及作戰技能的訓練，這樣的訓練往往從小就開始。因此，騎士們往往具有健壯的體格、嫺熟的武藝，同時也培養了他們勇敢豪邁的英勇精神。
由這樣的戰士組成的部隊，雖然組織紀律性可能不強，但戰鬥力是不可低估的。並不是每個騎士都可以參加騎士團，加入騎士團有非常嚴格的限制，這些要求和聖殿騎士團非常相似：必須是非常年輕(年滿14歲)，身體健康，沒有身體缺陷，不能有債務或其他義務的拖累，而且必須是騎士的後代。對騎士出身的要求，保證了騎士兄弟們諳熟騎術、格鬥等作戰技巧，並且在早期，他們還要經過良好的訓練，正因爲如此，這些強壯、勇敢的年輕戰士在對普魯士、立窩尼亞的征服戰鬥中，才能夠屢戰屢勝。
騎士團的部隊主要是重裝騎兵，其裝備主要有長矛、劍，全身由厚重的盔甲保護，戰馬也披着鎧甲，騎士騎在馬上揮舞着武器，橫衝直撞，威力無比。這些戴盔掛甲越馬揚鞭的武士，每個人都可成爲一個獨立的作戰單位，而每人都是一座活動的堡壘。與這樣的敵人作戰，武器低劣、身無片甲的異教徒幾乎無任何取勝的希望。事實上，騎士團在成立之初，只有40名騎士加入;當巴拉克進入普魯士的時候，他只是率領20名騎士和200多名戰士：據《騎士團編年史》記載說，一次庫爾姆城被圍，守城部隊曾3次派人去雷登求援，他們所要求的僅是1名騎士，而當10名騎士趕到時，城中人大喜過望。即使在騎士團到達顛峯時期，普魯士和立窩尼亞的騎士一共也沒有超過1000人，可見騎士在當時的戰鬥力是如何之高。
