В 1179 г. в папской булле орден предостерегался от уклонения от своей основной миссии. Только после поражения при Хаттине в 1187 г. папа осознал важность военной роли ордена. Но даже после этого никаких официальных шагов не последовало вплоть до 1206 года, когда ордену официально присвоили статус военного. С этого времени все важнейшие посты в ордене занимают братья-рыцари, а маршал становится второй по значимости фигурой после великого магистра. К этому времени членство в ордене приняло несколько форм.
В ордене имелись братья-священники и сестры милосердия, которые продолжали работать в госпиталях. Братья-рыцари и сержанты несли военную службу. Но в 1206 г. официально признавалось разделение только на священников и простых братьев. В ордене госпитальеров, также как и в ордене тамплиеров, допускалось временное членство рыцарей. В Европе минимальной структурной единицей ордена была командерия, возглавляемая командором. Командерии объединялись в приорства, управляемые приорами. К концу XII века приорства объединяли в составе так называемых больших командерии. В конце XIII века орден прошел структурную реорганизацию.
Приорства объединили в составе восьми ланжисов или «языков». Иерархи ордена находились на Святой Земле. В состав иерархии входили главный командор, маршал, госпитальер, казначей, драпиер (квартирмейстер) и туркопольер. Каждый рыцарь имел право владеть четырьмя лошадьми и пользоваться услугами двух оруженосцев. Один оруженосец вел запасных лошадей, а другой нес копье. Оба оруженосца считались нонкомбатантами и в бою не участвовали. Общее руководство массой оруженосцев осуществлял гонфаноньер. Сержанты имели право на двух лошадей, а с 1302 г. им позволили иметь одного оруженосца. Существовали также боевые оруженосцы, которые могли участвовать в бою. Сержантов в составе ордена было меньше, чем рыцарей, экипировка сержантов была скромнее.
К началу XIII века госпитальеры начали конфликтовать с тамплиерами. Все чаще стали происходить стычки с участием братьев обоих орденов. В 1216 г. госпитальеры заняли Антиохию, выбив оттуда тамплиеров, но в городе вспыхнуло восстание. Вскоре госпитальеров из Антиохии изгнали, их имущество конфисковали. К 1240 г. оба ордена занимались уже не столько борьбой с неверными, сколько войной друг с другом.
В 1258 г. дело дошло до настоящей войны между орденами. Уличные бои шли в Акре. Конфликт попытались погасить дипломатическими средствами, но было уже слишком поздно. В 1243 г. пал Иерусалим. В 1244 г. под Газой в плен попало более 300 госпитальеров, в том числе великий магистр ордена. На протяжении следующих 25 лет отдельные гарнизоны оказывали отчаянное сопротивление мусульманам, но это не могло изменить хода событий. В 1271 г. пал замок Крак-де-Шевалье. Триполи пал в 1289 г., а спустя два года настала очередь Акры.
Восемь недель героической обороны города успехом не увенчались. Находившиеся в городе госпитальеры и тамплиеры погибли все до последнего. Потеряв Акру, где находилась штаб-квартира ордена, госпитальеры перебрались на Кипр, заняв замок Колос и организовав штаб-квартиру в Лимасоле. С начала ХШ в. орден располагал морским флотом, который постоянно находился в действии, совершая набеги на прибрежные поселения неверных.
Король Кипра, помня о мощи орденов на Святой Земле, возникшей в результате многочисленных пожертвований, отказался давать госпитальерам много земли. Ордену пришлось пересмотреть свои взгляды на будущее. Если тамплиеры занялись банковской деятельностью, госпитальеры предпочли продолжить войну против неверных, на этот раз на море. Орден из сухопутной силы начал превращаться в силу морскую. В 1301 г. в капитуле ордена появилась должность адмирала. Имевшийся у ордена флот для ведения боевых действий не подходил, так как состоял в основном из транспортов, использовавшихся для перевозки паломников и грузов. Транспорты ордену требовались по прежнему, но острее стояла нужда в боевых кораблях: галерах и галеасах.
