Она называется так совсем не потому, что ее строили арабы. Более того, они к ее возведению вообще непричастны. До завоевания османами Константинополя на этом месте находилась церковь Святого Павла и Святого Доминика, которая в свою очередь была построена в XIII в. на месте руин византийской базилики. В 1475 г. церковь по приказу султана Мехмеда Завоевателя была превращена в мечеть и получила название Галата. Арабы же, бежавшие от испанской инквизиции из Андалузии в 1492 г., прибыв в Стамбул, поселились по соседству с мечетью. Именно поэтому она и стала называться Арабской.

Мечеть представляет собой прямоугольное в плане здание, построенное в свое время в готическом стиле, о котором сегодня напоминают лишь одно или два сводчатых окна на ближайшей к минарету стене. Звонница церкви была превращена в минарет, во многом напоминающий минареты в испанской Андалузии.

В течение столетий мечеть периодически реставрировали и обновляли. Последний капитальный ремонт здания проводился в 1868 г. Позднее, в 1913 г., здесь были обнаружены надгробные плиты с эпитафиями и эмблемами, принадлежащие венецианским и генуэзским купцам. Сегодня эти находки собраны в стамбульском Археологическом музее.