Тем временем внутри мусульманского мира нарастало недовольство. Некогда бедные бедуины неимоверно разбогатели за счет награбленных сокровищ. Война за ислам стала для них еще одним гигантским набегом за добычей. В арабских хрониках дележу и описанию трофеев уделялось едва ли не больше места, чем всем остальным событиям, вместе взятым. В Аравию шел непрерывный поток денег и рабов. Кочевники пустыни погрязли в роскоши и сибаритстве. Хуже всего было то, что богатства распределялись неравномерно: больше всего доставалось правящей верхушке Омейядов, состоявшей из родственников Османа. Наместники провинций, которых Омар держал железной рукой, теперь осмелели и бесконтрольно грабили население. Благочестивые мусульмане начали роптать, что вера падает и нарушаются заветы Мухаммеда.

Как раз в это время по указанию Османа начал составляться кодекс Корана. Это было сложным делом, поскольку существовали разные списки изречений пророка, а некоторые были известны только устно и передавались по памяти. В трудных случаях обращались к еще живым соратникам Мухаммеда и спрашивали, слышали ли они, как пророк говорил то-то или то-то; если изречение подтверждалось, его включали в канон. Осман опирался на мединский сборник, составленный его секретарем Зайдом бен Сабитом и дополненный самим халифом. Редакция Османа была принята как единственно правильная, а остальные варианты уничтожили, что дало повод для многих споров и разногласий. В разных городах нашлись люди, утверждавшие, что их Коран более верный. В Басре это был Абу Муса, в Куфе — Абдулла ибн Масуд, искренне возмущенный тем, что его тексту, составленному еще во временя гонений на мусульман, предпочти список какого-то юнца Зайда.

Многих Осман настроил против себя тем, что отстранил от власти старых сподвижников пророка и приблизил к себе своих родственников, дядю аль-Хакама и его сыновей Марвана и аль-Хариса. Аль-Хакам до этого находился в ссылке, куда его отправил сам Мухаммед. И вот такого человека, бывшего гонителя пророка, Осман поставил рядом с собой, только потому, что тот был его близким родственником. К ним присоединилась и другая родня халифа, которым он раздавал щедрые подарки и поручал самые ответственные должности.

В это время Осману пришло анонимное письмо, в котором говорилось: «Заклинаем тебя Аллахом подумать об общине Мухаммеда, ведь мы боимся, что расстроится ее дело твоими руками, потому что ты посадил на шеи людям своих собратьев». В вину Осману ставили и то, что он разрушил старую мечеть Мухаммеда и вместо нее поставил другую, более просторную и красивую: это расценивали как знак неуважения к пророку. Его обвиняли в том, что он добавил к двум призывам на молитву третий, а также увеличил длительность самой молитвы.

В Дамаске один из сподвижников пророка Абу Зарр во всеуслышание обличал нечестие и порочный образ жизни дяди халифа аль-Хакама. Он же подал мысль, что халифом должен быть не Осман, а более достойный человек — Али. В Египте Абдулла ибн Саб, иудей из Южной Аравии, начал проповедовать учение о том, что Мухаммед вернется на землю перед концом света, а пока миром должны править его помощники из самых приближенных — имелся в виду Али. Наконец, один из учеников Абдуллы — Малик аль-Аштар устроил переворот в Куфе и отказался подчиняться халифу.

Осман, которому было уже больше 80 лет, даже не пытался восстановить свою власть. Увидев его слабость, противники Османа набросились на него со всех сторон. К Медине двинулись вооруженные толпы с запада и востока: из Египта под предводительством Мухаммеда ибн Абу Бакра, а из Куфы и Басры — во главе с Маликом. Они потребовали отречения Османа от власти. Халиф нашел в себе силы отказаться. В эти последние дни он проявил мужество и твердость, которых ему недоставало раньше. На требование Али отречься он ответил: не сниму одежд, которые возложил на меня Аллах. Он кучкой верных сторонников каждый день молился у всех на глазах в мечети, несмотря на оскорбления бунтовщиков, доходившие порой до рукоприкладства.

Наконец, молящихся разогнали камнями, и Осман укрылся в своем доме вместе. Халиф обращался с крыши к осаждавшим и просил Али защитить его от насилия. Али молчал. Разнесся слух, что Муавия послал на помощь халифу войска из Дамаска и они уже подходят к Медине. Медлить было нельзя: бунтовщики пошли на штурм дома. Перебираясь по крышам соседних зданий, они проникли во двор и ворвались в комнату Османа, который спокойно сидел на циновке и читал Коран. Жена халифа Наила бросилась на его защиту, но ударом сабли ей отрубили пальцы. Еще через минуту Осман упал, заливая своей кровью Коран.