Крымская война обнаружила, что хваленая николаевская армия, которой «Жандарм Европы» так долго пугал европейцев, нехороша. Солдаты браво выглядели и отлично маршировали, но неважно стреляли. Офицерский корпус по большей части не имел специального образования: кто родился дворянином, тот и офицер. Снабжение было скверным, вооружение — отсталым. При огромных штатах мирного времени резервы в случае войны брать было неоткуда — разве что собирать необученное ополчение, от которого мало толку. Иными словами, содержание огромной постоянной армии тяжелым бременем ложилось на бюджет и лишало страну множества рабочих рук, а во время войны пополнять войско было неоткуда.

Первый этап реформы коснулся главным образом организации и управления.

Страну разделили на военные округа, устроенные по единому принципу. В каждом имелись собственные управления по интендантской, артиллерийской, инженерной и медицинской части, а также военно-учебные заведения, которым придавалось особое значение.

Возникла новая система военного образования. К 1880 году в стране существовало уже 27 офицерских училищ, выпускавших вполне достаточное количество профессиональных кадров. Высшее образование давали пять академий: генерального штаба, артиллерийская, инженерная, военно-медицинская и военно-юридическая.

Вводилась всеобщая воинская повинность, распространявшаяся на все сословия, в том числе и дворянское, которое уже больше ста лет было освобождено от какой-либо обязательной службы. Это был почти такой же важный шаг в сторону классовой эмансипации, как освобождение крепостных.

Каждый год в ноябре здоровые двадцатилетние юноши должны были являться на призывные пункты. Мобилизовали не всех, а только тех, кому выпадет жребий. (Квота менялась в зависимости от текущей потребности в пополнении). Попавшие в армию отбывали шестилетний срок службы, а затем еще девять лет числились в резерве. Во флоте служили семь лет, но в запасе состояли только три года.

Эта гибкая система обеспечивала вооруженные силы ровно тем количеством солдат, которого требовала ситуация.

После перехода на всеобщую повинность численность вооруженных сил несколько сократилась — до 750 тысяч, но при всеобщей мобилизации 1877–1878 годов, с учетом резервистов, армия увеличилась более чем вдвое.