В биографии Омара говорится, что халиф был скромен, нестяжателен, жил в аскетической бедности и проповедовал великодушие и снисходительность. Однажды в пустыне он вместе со своим товарищем подошел погреться к костру, у которого сидела женщина с детьми. Не зная, что перед ней халиф, женщина стала жаловаться и ругать Омара, который отправил ее мужа на войну: теперь муж погиб, семье нечего есть, и она варит в котелке пустую воду, стараясь обмануть детей и надеясь, что они заснут, не дождавшись еды. Услышав эту историю, Омар смиренно отправился в лагерь, принес дров, еды и сам приготовил ужин для голодной семьи.
Как-то в Медине к нему подошел Фируз, перс-христианин, и попросил спасти его от непосильного налога, который наложил на него хозяин. Узнав, что налог составлял два дирхема, Омар заметил, что подать не так уж велика. «Ты мастер, — добавил он, — и, я слышал, умеешь делать ветряные мельницы: так сделай такую для меня». — «Ладно, — пообещал Фируз, — я сделаю тебе такую мельницу, о которой не скоро забудут на востоке и на западе».
На следующий день, когда Омар молился в мечети, Фируз, закутавшись в плащ, подошел к нему вплотную и вонзил в живот кинжал. «Этот пес убил меня!» — успел крикнуть халиф. Фируз бросился к выходу, вращая в воздухе длинным клинком с лезвием на обоих концах: это и была обещанная «мельница». Нанося смертельные раны направо и налево, он сумел убежать из мечети, но позже был найден и заколол себя тем же кинжалом. Не имея возможности отомстить самому Фирузу, сын Омара приказал убить его дочь.
Халифа похоронили в комнате Аиши рядом с Мухаммедом и Абу Бакром. Перед смертью он собрал приближенных и назначил своим преемником самого благочестивого и бескорыстного — Абдурахмана ибн Ауфа, — но тот в ужасе отказался, считая себя недостойным такой чести. Тогда Омар поручил выбрать нового халифа из пяти лидеров: Али, Зубейра, Османа, Сада ибн Абу Ваккаса и Талхи. Фаворитом считался зять Мухаммеда Али, но Абдурахман, которому доверили быть судьей, выбрал самого благочестивого — Османа.
Между тем волна завоеваний по-прежнему шла от Аравии во все стороны. В Палестине были взяты Кесария, Бейрут и Аскалон. В приморской Акке наместник Муавия создал арабский флот и завоевал Кипр, жители которого были застигнуты врасплох. В битве у Фойника арабы наголову разгромили знаменитый византийский флот и стали фактически полными хозяевами Восточного Средиземноморья. На севере раздробленная Армения, которой византийский император упорно пытался навязать православный вариант христианства, не имела сил сопротивляться и заключила с арабами кабальный договор, результатом которого стала гражданская смута и разорение страны. Как написал армянский историк Себеос: «Мы заключили союз со смертью и договор с адом». Соседняя Грузия также покорилась власти мусульман и обещала платить дань, и лишь хазары дали отпор неудержимой волне ислама, окружив и уничтожив многотысячную армию полководца Салмана. На востоке арабы окончательно добили все еще сопротивлявшихся персов, захватив их последнюю провинцию Хорасан.