Тевтонский орден всегда оставался германским орденом. Поэтому, не имея перспектив на Святой Земле, неизбежным было возвращение ордена на родину. Вскоре после того, как в 1210 г. гроссмейстером ордена стал фон Зальца, венгерский король Андрей попросил орден о помощи в обороне границы своего королевства в Трансильвании. В обмен за помощь король посулил ордену Бурценланд. Тевтонский орден действовал в Венгрии за собственный счет. К 1225 г. рыцари усмирили провинцию и начали обживать Бурценланд. Венгерский король не сдержал своего обещания, и потребовал от ордена покинуть земли. Орден не обладал достаточной мощью, чтобы вступать в войну, поэтому тевтонцам не оставалось ничего другого, как уйти из Венгрии. Но эта кампания окончательно предопределила переселение ордена в Восточную Европу.
Католическая миссия активно действовала в Пруссии с X века, но пруссы неохотно переходили в католичество, оставаясь в большинстве своем язычниками. В 1217 г. прусский епископ провозгласил крестовый поход с целью насильственного обращения местного населения в католичество. Первый прусский крестовый поход начался в 1221 г. Действия крестоносцев спровоцировали жесткий ответ со стороны пруссов. В 1224 г. польский герцог Конрад Мазовецкий обратился к тевтонскому ордену за помощью.
Герман фон Зальца начал готовиться к новой войне, лишь получив официальное согласие со стороны папы и германского императора. Гроссмейстер не желал рисковать будущим ордена, не получив вперед каких-либо гарантий. Переговоры о гарантиях продолжались несколько лет.
В 1226 г. император Фридрих II присвоил гроссмейстеру ордена почетный титул князя Германской империи с правом носить императорского орла на гербе и представлять Священную Римскую Империю в боях за новые земли. Когда в 1229 г. Фридриха короновали в Иерусалиме, тевтонский орден формировал почетную стражу Гроба Господня.
В 1229 г. герцог Мазовецкий потерял Кульм на Висле, к югу от Гданьска. Папа и германский император согласились передать этот район в распоряжение тевтонского ордена. Так фон Зальца получил базу для предстоящего крестового похода. Первоначально орден освоил крепость Фогельзанг на Эльбе. Это произошло в 1228 г. В 1230 г. 20 рыцарей и 200 сержантов тевтонского ордена под командованием брата Германа Бальке начали пацификацию Кульма. Шли кровопролитные и ожесточенные бои на труднопроходимой местности, изобилующей песчаными дюнами, озерами, реками, болотами и густым лесом. В этом мрачном и таинственном мире жили язычники-пруссы, которые не спешили вступать с крестоносцами в открытый бой, а били противника из засад.
На протяжении следующих двух лет тевтонские рыцари систематически подавляли сопротивление, строя крепости, выжигая деревни, оказавшие сопротивление, и убивая всякого, кто отказывался принять католичество. В 1232 г. тевтонцы построили замок Кульм, в 1233 г. – Мариенвердер, в 1234 г. – Торн, а в 1237 г. – Эльбинг. Постепенно орден покорял местных жителей, обращая их в крепостных. В 1239 г. орден вышел на побережье Балтийского моря. Пруссию постепенно покрывала сеть крепостей и замков, с помощью которой тевтонцы контролировали территорию.
