Au IIIe siècle ap-jc, du moins jusqu'au règne de l'empereur Gallien (253-268), le commandement se présente de la façon suivante: chaque légion est commandée par un légat de légion, qui est un sénateur ayant exercé la préture. Chaque camp est administré par un préfet de camp de rang équestre qui est en général un soldat sorti du rang. Chaque légion compte 10 tribuns qui sont de jeunes sénateurs ou chevaliers sans expérience . Ils forment l'état-major du légat. Lorsque plusieurs légions sont réunies, le commandement en chef est confié à un légat sénateur ayant exercé le consulat.
Vers 260, l'empereur Publius Licinius Egnatius Gallienus décide de réformer le système militaire car mal adapté aux problèmes gravissimes que connaît l'Empire à cette époque. Il cesse de faire appel aux sénateurs et préfère confier les commandements à des chevaliers sortis du rang, qui ont une plus grande expérience de la guerre et de la vie militaire. Désormais, les légions ne seront plus confiées à des légats mais aux légats de camp ou à des tribuns prétoriens ou encore à des sous-officiers de métier ayant le titre d'agens vice legati (=faisant fonction de légat). Gallien n'interdit pas la carrière des armes aux sénateurs mais préfère confier l'armée à des gens compétents. Dans les provinces ce sont également des chevaliers qui commandent les légions qui y sont stationnées. Vers les années 280-290, la multiplication des légions en corps plus petits amène une disparition totale des légats de légion remplacés par des tribuns de légions.
Au IIIe siècle on voit apparaître les duces. Ce sont à l'origine des commandants à titre exceptionnels placés à la tête de détachements ou chargés d'une expédition importante. Ce n'est pas une charge régulière et ce commandement ne concerne pas un secteur géographique déterminé. A partir du règne de l'empereur Caius Valerius Aurelius Diocletianus (284-305), le duc se voit attribuer une région précise. Les premiers ducs connus sont Aurelius Januarius duc de Pannonie Seconde en 293 et Firmianus duc du limes Scythe en 286/305. Du règne de Dioclétien à celui de Julien (360-363), on créera ainsi de nombreux duces régionaux pour la Pannonie II, Tingitane, limes de Tripolitaine, Egypte et Thébaïde, Euphratensis, Mésopotamie, Orient, Arabie, Osrhoène, Arménie, Phénicie, Isaurie, Scythie. Au début du règne d'Honorius (393-423) on trouve 13 ducs en Orient et 12 en Occident qui commandent les troupes frontalières uniquement (Les troupes pseudocomitatenses sont des contingents placés directement sous les ordres du maître de la milice et ne relèvent pas de l'autorité des ducs). Ils sont chargés de lever les recrues, de juger les fautes des soldats et surtout d'assurer la "pax romana" dans leur secteur. Les ducs font généralement partie de l'ordre équestre jusqu'au règne de Valentinien I (364-375). Le duc pouvait dans certain cas recevoir le titre de comte s'il menait une campagne avec l'empereur.
Au IVe siècle apparaît dans la hièrarchie militaire le titre de comte (comes). A l'origine, ce n'était que les personnes qui accompagnaient l'empereur qui recevaient ce titre. La plupart des hauts fonctionnaires romains reçurent ce titre en 324, lorsqu'ils accompagnèrent Constantin en Orient afin de combattre Licinius. Vers la fin du règne de Constantin I apparaît des comtes militaires provinciaux comme le comte d'Afrique (comes Africae en 320), le comte d'Egypte (comes limitis Aegypti en 330). Ils ont le titre de comes rei militaris. Au Ve siècle on en trouve 2 en Orient (Egypte et Isaurie) et 6 en Occident (Italie, Afrique, Strasbourg, Bretagne, littoral Saxon).
Jusqu'à Constantin I (306-337), la direction suprême des armées romaines est assurée après l'empereur par les préfets du prétoire. Constantin enlève toute responsabilité militaire aux préfets du prétoire et confie le commandement à 2 maîtres de la milice, un pour la cavalerie (magister equitum) et l'autre pour l'infanterie (magister peditum). Ce sont des généraux en chef et lorsque l'empereur est présent ils deviennent chefs d'etat-major. Ils commandent en personne les troupes comitatenses (littéralement "ceux qui accompagnent") et pseudocomitatenses. Lorsque Constantin I mourut en 337, ses fils, Constantin II (337-340), Constant (337-350) et Constance II (337-361) se partagèrent son Empire. Il y eut alors des maîtres de la milice pour chaque empereur. Lorsque Constance II refit à son profit l'unité de l'Empire en 350, il rétablit au nombre de deux les maîtres de la milice mais en 351 à Sirmium, il nomme son cousin Gallus César pour l'Orient. Celui-ci décide de créer un maître de la cavalerie pour l'Orient qui va subsister après son éxécution en 354. L'année suivante le frère de Gallus, Julien est nommé par Constance II maître de la cavalerie pour les Gaules. A partir de cet empereur, on aura donc 2 maîtres de la milice à la cour dits praesentales et 3 maîtres de la milice locaux (Gaule, Orient, Illyricum). En théorie, ils sont tous de rang égal mais en réalité le magister equitum est de loin le plus honorable car il est le seul à accéder au consulat. Les maîtres de la milice locaux peuvent parfois devenir praesentales comme Flavius Anatolius, maître de la milice pour l'Orient de 433 à 446 puis magister peditum praesentales de 450 à 451. La création de ces maîtres locaux provoquent la création des troupes pseudocomitatenses. Avec l'empereur Théodose I (379-395), les maîtres de la milice prennent le titre de magister utriusque militiae, commandant de la cavalerie et de l'infanterie. Au début du Ve siècle, il y a en Orient deux maîtres des deux milices praesentales et trois autres locaux (Orient, Thrace, Illyricum), en Occident, il y a un maître de l'infanterie et un maître de la cavalerie praesentales et un maître de la cavalerie pour la Gaule.