К этому времени Мухаммед ибн Али умер, и новым имамом стал его сын Ибрахим ибн Мухаммед. Его главным помощником был Абу Муслим, по происхождению перс, освобожденный из рабства и принявший ислам. По поручению имама он собирал для него средства и готовил восстание в Мерве. Когда пришло время, Ибрахим отправил своему слуге знамя — знак начала мятежа — и письмо, ставившее его во главе восстания. Абу Муслим немедленно объявил о своей миссии на совете повстанцев. Это привело в бешенство Сулеймана ибн Касира, аристократа, возглавлявшего аббасидское подполье в Мерве: он не желал подчиняться какому-то безродному выскочке, бывшему рабу, даже не арабу, а чужаку, который, по его словам, «неизвестно, из какого яйца вылупился». В гневе он швырнул в Абу Муслима чернильницу, в кровь разбив ему лоб. Но остальные встали на сторону нового вождя: слово имама — закон. Сулейману пришлось смирить свою гордость и объединиться с Абу Муслимом ради общего дела.

Утром 9 июня 747 года Абу Муслим воткнул в землю черное знамя имама, к которому со всех сторон начали стекаться сторонники Аббасидов. Все они тоже были в черном. Собралось около пяти тысяч человек, в основном местная беднота, беглые рабы, люди из низов, не умевшие воевать и почти не имевшие оружия. Наместник Хорасана, по имени Наср, отнесся к ним пренебрежительно. На его памяти было уже столько восстаний и мятежей, что еще одно не вызывало особых опасений. Он считал, что главная опасность исходит от хариджитов и калбитов. Но армия Абу Муслима быстро крепла и росла и скоро превратилась в серьезную угрозу. Наср обратился за помощью к халифу, но получил лаконичный ответ: «Срежь бородавку сам». Марван в это время отвоевывал Мекку и Медину, и у него не было сил разбираться с восточными провинциями.

Не получив помощи из центра, Наср долго пытался сдержать восставших своими силами, но в конце концов был вынужден бежать. Только тогда Марван II наконец выслал против мятежников армию, но было уже поздно: армия Аббасидов в нескольких битвах наголову разгромила правительственные войска и с триумфом вошла в Куфу. Последняя отчаянная попытка Марвана спасти ситуацию провалилась: его войско было уничтожено, а сам он бежал в Египет, где вскоре был убит. Аббасиды не ограничились одним Марваном — они перебили всех представителей рода Омейядов, а уже мертвых омейядских правителей вышвырнули из могил. Омейядский наместник Йазид ибн Хубайр, все еще оказывавший сопротивление, сложил оружие в обмен на гарантию жизни и свободы, но не получил ни того, ни другого: его казнили вместе с приближенными.

Во главе халифата встал первый представитель новой династии Аббасидов — Абу-ль-Аббас ибн Мухаммед.