Армия первых Арнульфингов была сложной и не имела никакой единой организации. Фактически она ничем не отличалась от армий Меровингов VII века. Есть свидетельства того, что в конце VIII – начале IX вв. единообразие армии уменьшилось еще сильнее, отражая огромные размеры империи, а также нарастающее внутренне разделение государства. Тем не менее, армия отличалась высоким политическим единством, а также превосходила в численности и материальном обеспечении большинство своих противников. В начале IX в., в первые годы правления Людовика Благочестивого элитарные части находились в состоянии 12-часовой боевой готовности.
Карл Великий предпочитал, чтобы все его прямые вассалы были военными, но на практике этого редко когда удавалось добиться. Но все слои общества так или иначе были привлечены к военной службе. В первую очередь это касалось свободных граждан, которые должны были служить в войске по призыву короля. Общая мобилизация (лантвери) обычно объявлялась в какой-либо ограниченной области в случае чрезвычайного кризиса. Военную повинность несли и недавно покоренные народы, всего через несколько лет после их присоединения к империи. Для франков, германоязычных потомков галльских племен, объединенных Меровингами, военная повинность была более тяжелой.
Профессиональные воины служили в отрядах крупных магнатов и правителей. Прежде называвшиеся социями, эти лояльные майордому солдаты формировали армию (экзерцитус). Экзерцитусы магнатов объединялись в составе единой армии – экзерцитус генералис. Особенно сильной была армия Австразии. Австразия соответствовала современному Пфальцу. Другим центром с мощной армией была Нейстрия, расположенная на севере Франции. Мощной армией располагала покоренная, но все еще не ассимилированная Бургундия. Ситуация на романизированном юге Франции была еще более сложной. Другие формы воинской повинности, напрямую не связанные со службой в армии, включали в себя снабжение армии провизией (карнатикус) и предоставление повозок и волов для армейского обоза (хостиленсе).
Первые короли и императоры Арнульфинги располагали небольшой постоянной армией, называемой скара. Воины франки из состава этой армии периодически назначались на командные должности в формируемые полки, которые, случалось, не отличались высокой надежностью. Действуя самостоятельно, скара выступала в роли отряда тяжелой кавалерии. Позднее, словом скара стали обозначать самые разные воинские формирования. При Карле Великом под скарой понимался отряд, укомплектованный молодыми воинами, проживавшими неподалеку от императорского дворца или даже в самом дворце. Вероятно, в составе скары выделялись три уровня иерархии: схоларес, скола и милитес ауле регие.
Местное руководство осуществляли лейдесы – лица, со времен Карла Мартелла, назначаемые в не до конца покоренные и пограничные районы государства. Существующая организационная структура Церкви обеспечивала административный каркас системы управления. К середине IX века графы, составлявшие верхний уровень светской власти, делили правление областями (пагии) вместе с епископами и другими архиреями. Графы и епископы отвечали за формирование армии по приказу правителя. Они также располагали небольшими постоянными отрядами. О том, как шло формирование ополчения, известно мало. Вероятно, граф составлял список патрантов – лиц, обязанных явиться на службу в армию. Другой список – айдантов – объединял соседей, которые обязывались помогать семействам патрантов по хозяйству, пока те находились на службе. На местном руководстве также лежала обязанность оснащения и вооружения армии. На практике, местные руководители имели множество способов уклониться от выполнения своих обязанностей, тогда как правители не всегда могли заставить графов исполнять обязанности.
Отказ явиться на воинскую службу в случае лантвери наказывался смертью. Отаказ явиться на воинскую службу в случае менее категорического приказа (баннум) стоил дезертиру ощутимого штрафа (херибаннум), размер которого определялся состоятельностью дезертира. Численность людских резервов у ранних Каролингов разные историки оценивают по-разному. Дельбрюк, Лот и Гансхоф называют цифру 5000 человек, Фербоугген говорит о 2500-3000 конных и 6000-10000 пеших воинах. Вернер доказывает, что численность конницы достигала 35000 человек, а численность пехоты и вспомогательных войск достигала 100 000 человек. Ясно только, что на практике удавалось поставить в строй лишь часть военнообязанных.
Неясно, действовали ли франкские конные воины как настоящая кавалерия, или «по драгунски». Есть данные , что во времена Меровингов франкская конница играла значительную роль, а ее упадок начался во времена Мартелла. Тем не менее, небольшие отряды гвардии продолжали сражаться верхом, действуя копьями, а кони оставались одним из ценнейших трофеев. Конные отряды совершали набеги, устраивали засады и организовывали преследование, но настоящие ударные отряды тяжелой конницы, по-видимому, встречались редко. В конце эпохи Меровингов и начале эпохи Каролингов, франкская конница представляла собой аналог мусульманской конницы или конницы азиатских кочевников. Искусство верховой езды высоко ценилось у франков. Доставшиеся в наследство от Рима коневодческие хозяйства, были сохранены Меровингами. Во главе этих хозяйств стояли комес стабули (коннетабли).
