С 1871 года А. А. Абаза состоял членом Государственного совета Российской империи и был государственным контролёром (должность, аналогичная современному председателю Счётной палаты), затем, с 1874 по 1892 год, – бессменным директором Департамента экономики Государственного совета.

Одновременно с 1880 по 1881 год Абаза был министром финансов Российской империи. 22 октября 1880 года по распоряжению государя Александру Аггеевичу было вручено письмо с уведомлением о высоком назначении, учитывая его «блестящие дарования и многосторонние познания в финансовой отрасли государственного управления». При этом подчёркивалось, что без «коренного и прочного улучшения финансов не только немыслимы какие-либо дальнейшие преобразования, но и государственный организм наш может в будущем подвергнуться даже общему расстройству». Министр был инициатором отмены соляного акциза, выкупа частных железных дорог; осуществил повышение таможенных пошлин.

Вместе с бывшим харьковским генерал-губернатором М. Т. Лорис-Меликовым он разработал программу социально-экономических преобразований в области податного дела, денежного обращения, железнодорожного строительства, финансового управления.

Но цареубийство и последовавшая за ним отставка министров не дали им возможности поучаствовать в дальнейших преобразованиях. Их провёл его заместитель, ставший следующим министром финансов, Николай Христианович Бунге.

Сергей Витте так описывал стиль работы действительного тайного советника Абазы:

«Он председательствовал в самом трудном департаменте Государственного Совета – департаменте экономии; затем он был старшим председателем департаментов Государственного Совета, а потому постоянно замещал председателя Государственного Совета. Обыкновенно к делам Александр Аггеевич не готовился; у него всегда был какой-нибудь маленький секретарь, который вкратце рассказывал ему все дела, а он только читал заключение.

Обыкновенно Абаза не имел привычки высказывать своё мнение, а всегда выслушивал других, и, когда все выскажутся – он, благодаря своим большим способностям, все это схватывал. Только тогда, когда на основании всех выслушанных им речей Александр Аггеевич составлял своё мнение, он начинал говорить; причём говорил всегда с таким большим здравым смыслом, говорил таким авторитетным и назидательным тоном, что его речь производила такое впечатление, будто бы он это дело знает au fond, т. е. вполне и глубоко его изучил».

При всём недовольстве старым реформатором Александр III не прогнал Александра Аггеевича в отставку. И не мешал ему заниматься бизнесом.

В имениях Абазы производилось большое количество продовольственной продукции, часть которой шла на экспорт. Сам сановник имел доверенных лиц, которые и осуществляли все торговые операции. В Звенигородском уезде Киевской губернии в имении Шпола он был почётным мировым судьёй. Там же работал и сахарный завод.

Одними из его партнёров были члены одесской банкирской семьи Рафаловичей. Основатель семьи – Абрам Рафалович – в своё время крестил сыновей. Его фирма считалась одной из лучших в Одессе. Фёдор Абрамович Рафалович был одним из учредителей Бессарабско-Таврического банка (открылся в 1872 году), который охватывал своей деятельностью Херсонскую, Таврическую, Подольскую и Бессарабскую губернии, а также Одесское и Керченское градоначальства, и предоставлял как долгосрочные займы под залог имений и городского имущества, так и краткосрочные.

К началу 1890-х годов Федор Рафалович уже скончался, и все дела перешли к его старшему сыну Александру. Его-то Абаза и называл «моим банкиром».