По инициативе Генриха Ягоды 22 декабря 1919 года в Москве был созван 1-й Всероссийский съезд Особых отделов фронтов и армий. Съезд проходил четыре дня, присутствовали представители 22 (из имевшихся 25) армейских и фронтовых особых отделов. Основной доклад на тему «Текущий момент в розыскной работе и задачи особых отделов» сделал заместитель начальника Особого отдела ВЧК Иван Павлуновский.

Генрих Ягода также выступал, предлагая предоставить начальникам Особых отделов участвовать в заседаниях реввоенсоветов с совещательным голосом, что и было поддержано делегатами. По его предложению было увеличено количество сотрудников Особых отделов: армии — до 60, фронта — до 80 человек.

После съезда в руководстве ВЧК были разные мнения относительно места Особых отделов в структуре органов ВЧК. Так, зампред ВЧК Иван Ксенофонтов выступал за подчинение Особых отделов местным органам ВЧК в губерниях, а член Президиума ВЧК и начальник Секретно-оперативного отдела Мартин Лацис предлагал включить Особый отдел в руководимое им подразделение. Иван Павлуновский и сменивший его после отъезда в Сибирь Вячеслав Менжинский, также как и Генрих Ягода, были сторонниками подчинения Особых отделов по вертикали Центру. В феврале 1920 года на конференции начальников Особых отделов губЧК в Москве их позиция не была поддержана делегатами и председателем ВЧК Дзержинским. В результате дискуссий Вячеслав Менжинский был назначен начальником Особого отдела ВЧК, сменив уехавшего на Польский фронт Феликса Дзержинского.

В результате объединения соответствующих подразделений центрально аппарата ВЧК и Особого отдела 13 сентября 1920 года было создано Управление делами ВЧК во главе с Генрихом Ягодой, который к этому времени был уже заместителем Менжинского в Особом отделе и членом коллегии ВЧК. Приказ об утверждении нового состава коллегии ВЧК был подписан 29 июля 1920 года Владимиром Лениным.