Борьбу против мекканцев можно разделить на несколько этапов, на протяжении которых мусульманская община не всегда была в победителях. Причинами вражды были не только старые обиды мекканцев на Мухаммеда и его сторонников или желание мусульман отомстить мекканцам за преследования. Дело было и в конкретных экономических интересах. Мусульмане пытались обеспечить себе средства к существованию путем грабежа караванов богатых мекканцев, чего последние не могли допустить. Поскольку речь шла не о преходящей опасности, то они пытались обезопасить свои караваны при помощи военной силы. Против Мухаммеда был послан вооруженный отряд. Он прибыл в долину Бадр недалеко от Медины. Мухаммед объяснил своим людям это столкновение, как послание Бога, в котором речь идет о существовании общины. Причем погибшие в бою сразу как мученики попадают в рай, где их ожидают несказанные удовольствия. Мусульмане выиграли сражение, что обеспечило Мухаммеду и его общине укрепление позиций в Медине, а также повышение авторитета (624 г.).

В следующем году мекканцы предприняли попытку атаковать мусульман и нанесли им серьезное поражение при горе Ухуд. Сам пророк получил ранения. Мекканцы, однако, не смогли воспользоваться плодами своей победы. Они полагали, что поражение мусульман было окончательным, и те не смогут преодолеть его последствий. Сами мусульмане после поражения были в растерянности и начали сомневаться в том, что Бог на их стороне и помогает им. Мухаммеду было очень сложно восстановить их доверие. Только победа над одним из иудейских племен в Медине, которое объединилось с мекканцами против мусульман, смогло улучшить ситуацию.

В 627 г. большая армия мекканцев осадила Медину. По совету одного перса Мухаммед приказал выкопать ров вокруг города. Под защитой рва и городских укреплений мусульмане смогли отстоять Медину. Мекканцы и их союзники были настолько поражены этим способом защиты (рвом), что не смогли долго продолжать осаду. Кроме того, в их рядах распространялись недовольство и споры. В результате этого им пришлось вернуться в Мекку. Это сражение получило в мусульманской традиции имя «сражение рва» (хандака).

В 628 г. Мухаммед предпринял попытку вместе со своими сторонниками совершить паломничество в Мекку. Однако ему не удалось войти в город. Мекканцы, экономика которых находилась под угрозой из-за блокады мусульманами караванных путей, предложили Мухаммеду заключить мирное соглашение. Таким образом было заключено десятилетнее перемирие – договор Худайбии. Мухаммед воспользовался этим для еще большего распространения ислама. Согласно мусульманскому преданию, он написал письма персидскому шаху, императору в Константинополе, наместнику в Александрии, императору Абиссинии и другим правителям с призывом принять ислам.

По всей видимости, мекканцы не соблюдали заключенное с Мухаммедом перемирие. Тогда он принял решение взять Каабу под свой контроль. В 630 г. во главе большой армии он выступил против Мекки. На этот раз мекканцы посчитали сопротивление бессмысленным и после получения гарантии безопасности для населения разрешили Мухаммеду и его сторонникам войти в город. Мухаммед выполнил обещание, но в Каабе были удалены идолы, языческие символы и рисунки на стенах.