После отъезда из Харькова князь сменил Эдуарда Тотлебена в Одессе и командовал Кавказским военным округом, став также главноначальствующим гражданской частью на Кавказе.

Еще на аудиенции у императора 25 ноября 1881 г. князь прямо заявил: «Предполагая объездить в течение весны и лета, что будет только возможно, из различных местностей Кавказа, с целью изучения средств применения в крае пред указанной мне программы, я затем буду испрашивать разрешения к концу года приехать в Петербург и представить государю моё заключение о том, что возможно, необходимо и полезно применить к краю немедленно, указав при том способы и средства к исполнению; затем высказать свой взгляд о тех преобразованиях, введение которых считал бы ещё рановременным в крае; и наконец, о тех мероприятиях, от которых, по убеждению моему, считал бы полезным совсем отказаться». С 1 января 1882 по з июня 1890 г. князь был всесильным владыкой Кавказа.

В 1882 году он объехал вверенные ему губернии с ревизией, итоги которой были изложены кн. А. М. Дондуковым-Корсаковым в специальной записке, переданной в Петербург в декабре 1882 г. на рассмотрение Александру III. В ней автор наметил два основных направления нового политического курса правительства на Кавказе: первое – предотвращение волнений тех местных жителей, которые отличались нелояльным отношением к власти; второе – планомерное улучшение социально-экономических условий жизни многонационального населения края.

«Конечная цель Правительства должна, очевидно, заключаться в постепенном объединении всех разнородных элементов Кавказа с коренным организмом Государства, – писал князь в записке 1882 г. – Но идти к этой цели нельзя иначе, как с крайней осторожностью, потому что всякая веками установившаяся, племенная особенность поддается нивелировке лишь путём последовательных… незаметных усилий и, напротив, каждая в этом отношении резкая и несвоевременная мера может только вызвать реакцию и тем самым отдалить достижение цели».

Анализируя в записке «политическое состояние» Кавказа, князь на основании критерия политической благонадёжности выделил среди населения края три категории – благонадёжное и спокойное; неблагонадёжное, но спокойное; неблагонадёжное и неспокойное.

К первой относились православные грузины, горских татар (азербайджанцев) он отнёс ко второй категории, как и инославных армян, а к третьей – некоторые народы Северного Кавказа.

Исходя из этого мнения, представители других мусульманских народностей, были освобождены от несения воинской повинности, когда она вводилась в начале 1880-х гг. На Кавказе. Дондуков-Корсаков отмечал, что мусульманские подданные, получившие в свои руки оружие, могут повернуть его против государства, которое обучило их пользоваться этим оружием. Он был убеждён, что правительство, тем самым, создало бы громадный контингент подготовленных в военном отношении врагов.

Князь указал на частые случаи «усиленного хищничества и разбоя, к которым татарское население склонно и в мирное время». По его мнению, «для ограждения порядка среди этого населения» требовалась только «сильная и твёрдая власть, проявляемая энергическими, но разумными действиями».

Узнав, что в Кубинском уезде Бакинской губернии из-за бездействия уездных властей среди «татарского населения» развелись разбойничьи шайки, А. М. Дондуков в июле 1882 г. приказал бакинскому губернатору барону Гюбшу фон Гросталь взять ситуацию под личный контроль. 31 июля 1882 г. губернатор доносил: «Четыре шайки разбойников продолжают наводить страх на мирных жителей уезда, совершая ежедневно убийства и грабежи, противопоставить которым необходимо самые строгие меры. Сельские старшины и население дают пристанище разбойникам, одни – из страха, другие – из корыстных видов… Все мои старания в настоящее время направлены на приведение уезда в должный порядок».

А. М. Дондуков-Корсаков направил две сотни казаков и, «чтобы «отучить жителей от содействия грабительским шайкам и пристанодержательства», он разрешил возложить содержание земской стражи на селения, которые были замечены в укрывательстве разбойников. В эти селения дозволялось вводить на временное жительство части посланных для поимки разбойников войск.

«Твёрдую власть» он считал необходимым подкреплять мерами по улучшению социально-экономического положения закавказских мусульман. «При объезде края, – писал князь, – я мог убедиться… в существующем среди мусульманского населения неудовольствии на ненормальность поземельных отношений и на результаты применения к краю наших новых судебных порядков».

«Новосозданное мусульманское дворянство, – писал А. М. Дондуков, – не довольствуется так дёшево доставшимися ему имениями и, пользуясь отсутствием межевания, продолжает и поныне захватывать принадлежащие казне земли… Та же неопределённость собственности вызывала частые столкновения между беками и агаларами, с одной [стороны], и крестьянами, с другой».

Выход из этого конфликтного положения князь видел в «неотлагательном и усиленном межевании, которое одно, в связи с окончательным упорядочением отношений крестьян к владельцам, в состоянии успокоить население». И межевание было проведено.

«Частая безнаказанность преступлений, за недостаточностью требуемых Судебными уставами формальных улик, – писал князь, – широко практикуемая отдача на поруки заведомо признанных населением преступников, развившееся вследствие того в ремесло лжесвидетельство, – все это влияет растлевающим образом на простой народ, теряющий веру как в суд, так и в значение правительственной власти в крае». И в судебных практиках тоже в целом был наведён порядок.

Затем Закавказье покрыла сеть железных дорог и образовательных учебных заведений.

Князь также сопровождал Александра III из Владикавказа в Тифлис, Баку и Батум в 1888 году. Государь лично убедился, каким авторитетом пользовался его наместник в самых отдалённых уголках.

В ноябре 1889 года в Баку прибыл генерал-адъютант князь Дондуков-Корсаков. В его присутствии состоялось торжественное освящение открытых перед тем общественно-полезных сооружений – дока в Баилове (позднее – имени князя) и конно-железной дороги.

Князю в сиду своей должности приходилось решать наиболее болезненные национальные вопросы. И в Киеве, руководя Юго-Западным краем, и в Одессе наиболее острым и неразрешимым в целом был еврейский вопрос. На Кавказе же, особенно после присоединения Карса и его окрестностей – армянский. И хотя ещё не было в этих краях ни погромов, с которыми Дондукову доводилось бороться в Одессе, ни партии «Дашнакцутюн», предвестники будущей беды уже были заметны глазу опытного администратора.

А. М. Дондуков-Корсаков высказывал опасения относительно благонадёжности армянского населения Закавказья. «Вся торговля, промышленность, большая часть имуществ в городах и часть земельной собственности сосредоточены теперь в руках армян, – писал князь, – к которым, в непродолжительном времени, должны будут перейти и грузинские дворянские имения».

А между тем, как отмечал он, армянская элита не может предоставить гарантий своей благонадёжности, поскольку «в среде армянской интеллигенции замечаются в последнее время, правда ещё смутные, сепаратические стремления к какой-то автономии и мечтания о восстановлении пределов древнего Хаэстана…. По заключению Берлинского трактата, началось сильное движение закавказских армян к переселению во вновь присоединённую провинцию, с целью образовать сплошную армянскую территорию от Эривани до Эрзерума».

Заметив, что армянские школы являются одним из эффективных механизмов национальной мобилизации, князь предложил срочно «пересмотреть все относящиеся до них постановления с целью подчинения армянских училищ более серьёзному надзору кавказского учебного начальства». Это значило оградить школу от влияния армяно-григорианского духовенства. Но как оградить, если во главе министерства народного просвещения России стоял прихожанин этой самой церкви Ованес Делянов?

По итогам ревизии 1882 года и дальнейших поездок князя по вверенным ему губерниям, были изданы научные труды, которые до сих пор интересно читать, а также весьма любопытный «Путеводитель по Кавказу» Е. Вейденбаума.

В период службы мужа на Кавказе Надежда Андреевна состояла председательницей Женского благотворительного общества св. Нины и дамского комитета Красного Креста в Тифлисе, при ней было построено новое здание больницы и перестроено главное помещение классов в пансионе для девочек. Скончалась княгиня в 1884 году в Петербурге после продолжительной болезни. Похоронена она в родовой усыпальнице в с. Полоном Порховского уезда Псковской губернии. Там же девять лет спустя упокоился и князь Александр Михайлович.