Было создано в начале июля 1904 года по распоряжению директора Департамента полиции А. А. Лопухина. Инициатором создания и первым руководителем отделения стал чиновник особых поручений при министре внутренних дел Иван Манасевич-Мануйлов. Основная задача данного органа — организация наблюдения за иностранными дипломатическими миссиями, расположенными в Санкт-Петербурге, а также перехват и расшифровка дипломатической переписки.

С середины марта 1905 года Отделение по розыску о международном шпионстве стало именоваться IV (секретным) дипломатическим отделением Особого отдела Департамента полиции. До сентября 1905 года его возглавлял Аркадий Михайлович Гартинг, который с 30 января 1905 года исполнял обязанности делопроизводителя Департамента полиции. После отъезда последнего за границу руководство отделением перешло к его бывшему заместителю — ротмистру Отдельного корпуса жандармов Михаилу Степановичу Комиссарову. Летом 1906 года отделение было расформировано[29].

Из-за того, что IV отделение и Разведочное отделение частично занимались одним и тем же делом — организацией наблюдения за иностранными посольствами, это спровоцировало серию конфликтов между ними. Так, начальник последнего Лавров докладывал:

«Опираясь на исключительные права Департамента полиции и располагая средствами, во много раз превосходящими таковые Разведочного отделения, означенная организация стала брать под своё наблюдение наблюдаемых Разведочным отделением, не исключая и сухопутных военных агентов, перекупать лиц, работавших для Разведочного отделения, или просто запрещать им служить отделению и вообще всячески ему препятствовать, а затем начала вторгаться и в Главное управление Генерального штаба: перлюстрировать корреспонденцию офицеров и учреждать за ними наружное наблюдение. Разведочное отделение в конце концов оказалось сжатым со всех сторон, вся работа его перешла на самоохранение и отчасти на выполнение отдельных поручений, специальная же деятельность свелась почти к одному формализму»