Повернення на Кавказ
В 1856 році він стає начальником штабу армії на Кавказі. У наступні кілька років Мілютін керує безліччю операцій, включаючи захоплення аулу Гуніб, де був полонений Шаміль. Після цього, в 1859 році, він стає генерал-ад’ютантом, а незабаром — і товаришем військового міністра.
Військові реформи
З 1861 року він став військовим міністром. На цій посаді Дмитро пробув 20 років. З самого початку виступав Дмитро Мілютін за військові реформи, проголошуючи за ідеал визвольні нововведення імператора Олександра II. Примітно, що міністр залишався досить близьким до наукових і літературних кіл. Він тісно взаємодіяв з К. Д. Кавелиным, Е. Ф. Коршем та іншими відомими в даній сфері особистостями. Це спілкування і тісне знайомство з процесами, які відбувалися в суспільному житті тих часів, зумовили багато особливості його діяльності як міністра.
Коли він тільки став на посаду, найважливішим завданням міністерства була реорганізація управління військовими силами. Побут в даній сфері сильно відставав від сучасних на той момент умов. Однією з перших реформ Дмитра Мілютіна було скорочення служби солдат з 25 років до 16. Він полегшив і солдатський побут: поклав початок навчання рядових грамоті, поліпшив харчування, житлові умови, обмундирування. Він забороняв вручну розправлятися з підлеглими, застосування різок стало обмеженим. Крім того, Мілютін проявив себе як освічений прихильник перетворювальних рухів тієї епохи.
Він сильно вплинув на скасування застосування жорстоких кримінальних покарань з різками, тавруванням і батогами. Розглядаючи судові статути, граф Дмитро Мілютін виступав за те, щоб судочинство було раціональним. З відкриттям голосних судів він розробив військово-судовий статут, у якому проголошувалися ті ж принципи і для військової сфери. Інакше кажучи, при ньому розгляду у військовій області стали усними, голосними, побудованими на змагальному початку.
Найважливіше місце серед заходів, запроваджених ним, займала військова повинність. Вона стала загальною, поширювалася і на вищі класи. Останні не зустріли таке нововведення привітно. Хтось із купців пропонував в обмін на звільнення від повинності утримувати за свій рахунок інвалідів.
Тим не менш у 1874 році загальна військова повинність була введена. У цьому, за спогадами Дмитра Мілютіна, його підтримував Олександр II. І імператор дійсно видав Найвищий маніфест про дану міру, а Милютину послав особистий рескрипт з повідомленням ввести закон «в тому ж дусі, в якому він складений».
Дмитро вельми активно надавав пільги в освітній сфері, виділяючи їх тим, хто володів дипломом університетів. Ним він визначив службу тривалістю 3 місяці. Головним противником військового міністра став міністр народної освіти Д. А. Толстой, який пропонував для володіли дипломом збільшити строк служби до 1 року, зрівнявши їх тим самим з тими, хто закінчив 6 класів гімназії.
Мілютін вправно захищав свої ідеї, і його проект був прийнятий у державному раді. Толстой не зумів домогтися того, щоб служба була приурочена до часу курсу в університеті.
