意的是，這一次透過的蘇聯新憲法還明文規定，在蘇聯最高蘇維埃人民委員會中將為國家政治保衛局的主席保留一個固定的席位。這樣就以法律的威嚴確保了國家政治保衛局在執行布林什維克黨和蘇維埃國家領導人賦予的特殊使命時不再受到行政與司法程式運作的束縛。

自全俄契卡被撤銷之後，從1922年的國家政治保衛局到1923年後的國家政治保衛總局，其最高領導人仍然由捷爾任斯基擔任。這位紅色秘密警察的創始人一直不折不扣地執行著蘇維埃中央執行委員會和蘇聯共產黨（布）中央的一切指示，使國家政治保衛局和國家政治保衛總局成為保證黨中央各項政策得以貫徹至每一級基層組織的有效系統，直到1926年他因病逝世。

捷爾任斯基去世後，國家政治保衛總局的領導職務由維亞切斯拉夫·魯道夫維奇·明仁斯基繼任。20年代末期，隨著國際鬥爭形勢的複雜變幻和蘇聯國內政局的發展，國家政治保衛總局的權力範圍和其在國家政權機關中的地位又漸漸上升了。這時，在蘇聯的廣大農村開始了轟轟烈烈的合作化、集體化運動，來自民間的不滿情緒不斷集聚、擴大，以至對這場規模宏大的運動形成了空前的阻力。1929年12月27日，蘇聯最高蘇維埃頒佈了一項嚴厲的法令，要求國家政治保衛總局也投入到保衛在大多數鄉村進行著的合作化和集體化運動的工作中去。1930年4月7日的另一項法令，把蘇聯的邊防部隊和在各地設立的眾多勞改營也都歸屬國家政治保衛總局的管轄範圍之內。同時，國家政治保衛總局還以不同面目參與了對蘇聯新聞、出版、電影等各種媒體的監督和審查。

“肅反先鋒”——劍與盾的功能交替

1934年，國家政治保衛總局主席明仁斯基去世。在這一年的7月10日，根據斯大林起草的蘇維埃國家聯盟又一項法令，國家政治保衛總局改組維國家安全域性（rnrb），並且將這個包括對內進行政治監督、對外進行反間諜滲透和情報偵察的秘密警察組織再次歸屬於最高蘇維埃內務人民委員會的領導之下。曾經擔任過明仁斯基副手的根裡赫·戈裡高裡耶維奇·雅戈達被任命維內務人民委員會主席。除了國家政治保衛總局之外，在內務人民委員會之內還設立了另一個專職的總局，用來專門管理邊防部隊、內衛部隊、民警、集中營和勞改營，甚至在國民經濟的一些重要部門的企業和交通運輸部門中也設定了分支機構，用來負責這些系統的反間諜和安全工作。

12月1日，蘇聯共產黨中央政治局委員、列寧格勒州委書記基洛夫遇刺身亡。斯大林藉此開始大肆運用內務人民委員會的秘密警察力量和手段，對所有異己人物和勢力進行無所不至的監視和調查，隨後，以徹底剪除為目的而大加殺戮。首當其衝被蒙上不白之冤的是布林什維克的早期革命活動家季諾維也夫和加米涅夫。到1935年1月，蘇聯內務人民委員會和司法人民委員會以參與謀殺基洛夫的罪名，對季諾維也夫和加米涅夫進行了曠日持久的“精心審判”，並於1936年8月將他們處決。

1936年，雅戈達因為“不能勝任揭露托洛茨基——季諾維也夫反黨集團的鬥爭”而被斯大林免去了內務人民委員會主席的職務，先是改任郵電人民委員，其後不久，他被當作了布哈林的同謀而被指控為反革命殺人犯和外國資產階級的間諜而被解除了職務，在經過司法人民委員會形式上的公開審判之後，就被他當初的下屬槍決了。

在雅戈達之後繼任內務人民委員會領導職務的是尼古拉·伊凡諾維奇·葉若夫。後人關於葉若夫的描寫都不免帶有幾分神秘而生動的筆觸：這是一個身高只有米、言行不同常人的“冷血侏儒”。

內務人民委員會不僅沒有因為其領導層的換馬而中止在蘇聯全國範圍之內的大規模清洗，而且，在葉