Главная угроза власти халифа Османа исходила из провинций. В январе 656 г. к Медине под видом малого паломничества направились большие группы недовольных из Куфы, Басры и Египта, всего около пятисот человек. Они остановились в одном дне пути от столицы. Начались долгие переговоры с халифом, завершившиеся подписанием грамоты, в которой Осман обещал «действовать… по Книге Аллаха и Сунне его пророка», гарантировал права неимущих и недовольных. Казалось, конфликт исчерпан, отряды двинулись в обратный путь. Однако, произошло непредвиденное…

Отряд, шедший в Египет, заподозрил неладное, когда его на полном скаку обогнал всадник из Медины. Кто-то узнал в нем слугу Османа. Настигнув гонца, египтяне нашли у него письмо, заверенное печатью халифа, к наместнику Египта с предписанием казнить смутьянов. Возмущенные вероломством Османа, египтяне стали требовать его отречения. Их поддержали жители Медины. Сначала мятежники окружили дом халифа и начали переговоры при посредничестве Али и Мухаммада б. Масламы. Сам Осман не предпринимал никаких решительных действий в ожидании подхода верных ему войск. Люди, близкие к халифу, поддерживали его вяло, в основном на словах. Вскоре осада превратилась в блокаду. К халифу никого не пропускали, лишили его продовольствия и воды. Больше месяца осажденные особенно страдали от жажды: стояла летняя жара, в единственном колодце во дворе дома вода была солоноватая, как и в большинстве источников воды в Медине.

При приближении войск из Басры и Дамаска восставшие бросились на штурм и овладели домом халифа. Согласно одной из версий дальнейших событий, Мухаммад б. Абу Бакр (сын халифа Абу Бакра) схватил Османа за бороду и воскликнул:

«Гляди, Бог тебя покарал, старый дуралей!». На это Осман якобы ответил: «Я не дурак, мое имя Осман, я повелитель правоверных!». Пререкательство между родственниками (Осман был дядей Мухаммада) было недолгим и завершилось смертью халифа. Имя убийцы осталось неизвестным. Кровь Османа обагрила Коран, с которым он вышел навстречу мятежникам. Так закончилось правление третьего праведного халифа. Начиналась новая эпоха в истории ислама и халифата, полная раздоров и кровопролития внутри мусульманской общины.