1923年9月俄共召开中央全会，内务人民委员兼格伯乌首脑捷尔任斯基在会上做报告。他提请全会参加者注意，党内生活的停滞、党内存在非法派别集团、任命制取代选举制等已成为一种危险，瓦解党对工人阶级的政治领导，这些事实证明党内状况不良。为监视孟什维克和社会革命党人，格伯乌早就安排其党员以及了解情况的非党人士充当线人，监视并密报他们的活动。鉴于工潮和党内存在派别活动，他建议责成所有共产党员向格伯乌报告党内的非法派别集团。
十月革命后不久，即成立了全俄肃反委员会(全名为全俄肃清反革命和怠工非常委员会，简称契卡)，它很快获得了非常权力，即逮捕和不经法庭审判直接处死的生杀大权。这种情况一直延至实施新经济政策的初期。随着国内战争的结束，正常经济活动的恢复，契卡的工作已不能适应新的形势，列宁决定改组契卡，削减其权力。1922年初契卡改组为国家政治保卫局(格伯乌)，属内务人民委员部管辖，任务是镇压公开的反革命暴乱，从事反间谍工作，保卫铁路和水路交通线，保卫国家边界等。它有搜查逮捕权，但已无处决权，案件必须移交法院审理判刑。这是把苏维埃国家纳入法制轨道的一项重要措施。