Название XVIII века.
Улица названа по находившейся здесь Моховой площадке, на которой шла торговля мхом.
Там, где проходит сейчас улица Моховая, до XVIII века была низменная долина по течению реки Неглинной, поросшее мохом болото и, как свидетельствуют современники, «непросыхаемые грязи». В XVIII веке началось осушение этой местности. Болото было замощено, на нем образовалась торговая площадь, причем на месте нынешнего Манежа торговали мхом для конопатки стен, это место называлось «моховая площадка». П.В. Сытин считает, что именно моховая площадка, а не давнее болото, дала название улице.
Особую всероссийскую известность этому названию принес Московский университет. При своем основании в 1755 году он помещался в тесном здании бывших приказов на Красной площади, затем его факультеты и аудитории были разбросаны по разным местам Москвы, и только в 1793 году университет обрел свое здание на Моховой улице, и с тех пор его обычно стали называть Московский университет на Моховой.
Теперь же с постройкой в 1949—1953 годах нового здания МГУ на Воробьевых горах, куда переехало большинство факультетов, употребление уточняющего адреса «на Моховой» или «на Воробьевых горах» стало просто необходимо.

На Моховой
В 1957 году появилась песня «Москвичи» на стихи Е. Винокурова (музыка А. Эшпая) – одна из самых трагических и задушевных песен о минувшей войне:
В полях за Вислой сонной
Лежат в земле сырой
Сережка с Малой Бронной
И Витька с Моховой…
В 1961 году Моховая улица вместе с Охотным рядом и Театральным проездом были объединены в одну улицу и переименованы в проспект Маркса.