Название XVII века.
Переулок назван по церкви.
Точная дата постройки первоначальной церкви Апостола Якова неизвестна, известно лишь, что в 1676 году она была выстроена заново. В документах названия переулка Яковоапостольский и Яковлевский зафиксированы с середины XVII века.
Церковь Апостола Якова была слободской, тут находилась целая группа казенных, то есть государственных, слобод, обслуживающих нужды царского двора и управленческих учреждений. К какой именно из слобод принадлежала церковь, поясняет ее полное наименование: Святого Апостола Иакова, что в Казенной слободе, в Хлебниках.
Закрытая в 1920-е годы и приспособленная под складские и производственные помещения, церковь Апостола Якова в 1993 году возвращена верующим в ее развалинах началась церковная служба.
В 1961 году Яковлевский переулок (именно так со второй половины XIX века он преимущественно назывался) был переименован в улицу Елизаровой. А.И. Елизарова-Ульянова (1864—1935) – сестра В.И. Ленина, член партии большевиков с 1898 года, в 1894—1895 годах жила на этой улице (дом не сохранился).