Могущественный Абу Муслим, правая рука Аббасидов, не пользовался доверием халифа. Это был один из тех «львов» ислама, которые вызывали одновременно восхищение и ужас. За годы аббасидского восстания он убил столько людей, что его сравнивали с самим аль-Хаджаджем. Его авторитет в восточных провинциях был абсолютен и доходил почти до обожествления. Существовала даже особая секта абумуслимистов, поклонявшихся ему как имаму. Если бы он обратил все эти силы, чтобы восстать против Аббасидов и самому стать халифом, у него вполне могло бы это получиться. Вместо этого Абу Муслим неизменно демонстрировал глубокую преданность новой династии и делал все, чтобы укрепить ее власть. Он ничего не хотел для себя и всего — для Аббасидов. При этом он был уверен, что его заслуги перед Абу-ль-Аббасом и аль-Мансуром неоспоримы, и не допускал мысли, что они могут желать ему смерти. Поэтому, когда аль-Мансур пригласил его в свой дворец — якобы для того, чтобы дать наставления перед отъездом в Хорасан, — Абу Муслим без колебаний отправился к нему без свиты и охраны, несмотря на то что его предупреждали об опасности.

Перед тем как принять у себя Абу Муслима, аль-Мансур спрятал за дверью своих людей и приказал им не выходить, пока он не хлопнет в ладоши: тогда они должны выбежать и убить Абу Муслима. Когда Абу Муслим пришел на аудиенцию, халиф начал осыпать его упреками за разные проступки. Абу Муслим, удивленный и возмущенный, воскликнул: «И ты упрекаешь меня после всего, что я для вас сделал!» Халиф с гневом ответил: «Все, что ты делал, произошло только благодаря нашему величию и удаче! На твоем месте мог бы быть кто угодно, даже какая-нибудь черная рабыня. Ты слишком высоко вознесся: пишешь мне письма, начиная со своего имени, сватаешься к моей тетке Асии и называешь себя потомком аль-Аббаса!» Поняв, что дело серьезно, Абу Муслим начал гладить его руку, целовать ее и просить прощения, но аль-Мансур воскликнул: «Да убьет меня Аллах, если я не убью тебя сейчас!» — и хлопнул в ладоши. Его люди вбежали в зал и набросились на гостя с мечами. Первые удары оказались слабыми, и Абу Муслим еще успел сказать халифу: «Лучше прибереги меня для твоего врага», — но тот ответил: «Разве есть у меня враг злейший, чем ты?» Абу Муслиму отрубили ногу, потом руки, пока он не превратился в гору отсеченных членов, а аль-Мансур смотрел на это и кричал: «Бейте, бейте, да отрубит Аллах ваши руки!» Останки убитого завернули в ковер и бросили в Тигр.

Абу Муслим умер молодым — в момент смерти ему было тридцать пять лет. Говорили, что с виду он был смугл, невысок ростом, широколоб, отличался молчаливостью и хладнокровием и одинаково свободно владел арабским и персидским. Сыновей он не оставил, только двух дочерей, а все его наследство состояло из пяти невольниц.