Название XV века.
Переулки названы по Златоустинскому (Златоустовскому) монастырю.
Монастырь был основан в XIV веке, точная дата основания неизвестна, самое раннее упоминание о нем в летописи относится к 1412 году в сообщении, что в монастыре был погребен Иоаким – архидиакон новгородского владыки Иоанна. Тогда эти места считались довольно удаленными от города и были покрыты лесом.
В 1479 году царь Иван III, небесным покровителем которого был Иоанн Златоуст – величайший христианский богослов IV века, – поставил вместо деревянного монастырского храма каменный.
Златоустинский монастырь в течение XVII—XVIII веков был богатой и известной обителью, поскольку среди его прихожан были люди знатные и богатые. На кладбище монастыря покоились останки царевичей Касимовских, князей Урусовых, Засекиных, Пронских, Барятинских, адмирала Ф.И. Апраксина и многих других.
В 30-е годы XX века монастырские храмы были снесены, на этом месте построены жилые здания для работников НКВД.
В 1932 году Большой и Малый Златоустинские переулки были переименованы в Большой и Малый Комсомольские «в честь Ленинского комсомола», Центральный комитет которого занимал здание в Большом Златоустинском переулке.
В церкви Иоанна Златоуста Златоустинского монастыря находилась икона Дмитрия Солунского (около 1700 года), ныне хранящаяся в Третьяковской галерее.