Терор в двох столицях
Наприкінці 1934 року кар’єра Заковського в НКВС пішла вгору при Генріху Ягоді. Був призначений керівником Ленінградського управління Наркома внутрішніх справ.
Розслідував вбивство Кірова. У 1935 році разом з першим секретарем Ленінградського обкому Андрієм Ждановим розгорнув масовий терор в місті на Неві. Протягом місяця під його керівництвом була здійснена операція по виселенню так званих “колишніх людей”. У їх число потрапили майже 12 тисяч колишніх фабрикантів, дворян, поміщиків, священиків і офіцерів.
У цей час активно брав участь у сталінських репресіях, знову входив до складу особливої трійки. Документально відомо, що Заковський особисто брав участь у тортурах, допитах і розстріли.
Робота в Москві
В кінці 1937 року став депутатом Верховної ради від Ленінградської області. Незабаром одержав переклад до Москви на посаду заступника наркома внутрішніх справ СРСР. Паралельно керував столичним управлінням НКВС. На цій посаді пробув лише два місяці, але саме на ці дні припав пік репресій в місті. З 20 лютого по 28 березня, коли московським НКВД керував Заковський, проводилися найбільш масові розстріли політв’язнів.
Сучасники розповідають, що в той час звинувачення висувалися проти цілих сімей. Смертні вироки виносилися навіть у відношенні неповнолітніх і жінок. Заковским був створений план по затриманню не менше однієї тисячі “націоналів” в місяць.
У лютому 1938 року виступив з ініціативою про перегляд вироків стосовно обмежено придатних до праці та інвалідів, які перебували на території Москви і Московської області. Заковський вважав, що ці засуджені мають бути засуджені до розстрілу.
Був у числі організаторів так званого Третього московського процесу. Це останнє з гучних публічних судів над групою колишніх партійних і державних діячів.
