有的文章认为斯大林肃反是从1934年基洛夫被暗杀开始，由于过份地估计了阶级斗争形势而造成的。这个说法至少有二个错误∶其一，基洛夫就是斯大林派人杀的；其二，肃反是斯大林为了夺取权力、巩固权力而有目的地策划组织的，从二十年代驱逐托洛茨基就开始了。
在列宁时期，实行三驾马车的领导体制，由列宁任政府总理，斯大林任总书记，托洛茨基任军委主席。列宁并未指定接班人。由于托洛茨基的资历和声望都比斯大林高，因此列宁病重时，西方各国普遍认为，党和国家的接班人非托洛茨基莫属。可是突然间，除党内职务外，他的其他一切职务均被解除，并把他发配到阿拉木图。１９２８年１２月中旬，国家政治保安总局的一名特使专程从莫斯科带了封信给他，要他停止领导反对派的活动，否则将提出改变其居留地的问题。托洛茨基复信中央和共产国际执委会表示拒绝这最后通牒。一个月后，联共（布）中央政治局以压倒多数通过一项决议：将托洛茨基驱逐出苏联。投反对票的是布哈林、雷科夫和托姆斯基。托洛茨基来到土耳其，同他一起的有他的妻子和长子列夫，而陪同这一家人的则是四名保镖。一九三二年，他在那里得到通知：苏联政府剥夺了他的苏联公民权。后来他辗转定居在墨西哥。
此后，斯大林继续展开了对季诺维也夫、加米涅夫等反对派的斗争。
基洛夫并不属于反对派之列。他是斯大林的朋友和战友，列宁格勒党组织头号人物、中央政治局委员。基洛夫脾气火爆，在政治局会议上常和其他人争吵，甚至敢和斯大林顶撞，他曾经是个工人，所以很善于倾听工人的呼声。政治局委员中敢于到工厂去向工人发表演说的，只有他一人。一九三四年初召开了党的第十七次代表大会，大会前，一切程序都预先规定好了，就连代表们欢迎领袖人物的掌声也不例外。每个政治局委员上主席台时，鼓掌时间规定为两分钟，欢迎斯大林的掌声应长达十分钟。可是，当基洛夫出现在大会主席团时，全场顿时响起了暴风雨般的掌声。基洛夫的声望使斯大林决心除掉他。
在一九三四年那个时候，还不能随心所欲地对一个政治局委员采取行动。开除一个政治局委员，必须经过一系列复杂的程序。要达到这一目的，开始就必须罗列基洛夫的罪名，把他说成是反列宁的异端，或是指责他违背党的总路线，从而在全党开展一场针对他的批判运动。但在当时的情况下，这种办法对斯大林说来是不可取的。在粉碎了托洛茨基和季诺维也夫反对派之后，斯大林就已多次发表文章和口头声明，说什么异端已被清洗干净，党已十分巩固，变得“空前的团结和统一”。而一旦开展反基洛夫的运动，势必会引来流言蜚语，说党又重新陷入分裂，政治局意见不一。国外也会再次怀疑他的制度的稳固性。这一点，正是斯大林无论如何也不愿听到的。
于是他得出一个结论，要解决面临的这个棘手的问题，大概只有一个办法：除掉基洛夫，同时将暗杀的罪责转嫁到原反对派领袖的头上。
唯一能帮助斯大林准备这次谋杀的国家机关，是负责基洛夫安全的内务部列宁格勒分局。付局长扎波罗热茨从列宁格勒被召到莫斯科，并带着斯大林的密令回到了列宁格勒。
恰在此时，内务部列宁格勒分局收到了一份密报，上面揭发了一个名叫尼古拉耶夫的年轻党员。这个尼古拉耶夫不久前被开除出党，因此再也无法找到工作。愤怒和绝望，使他产生了要杀党的监委主席的恶念。莫斯科认为，尼古拉耶夫是实施预定计划的合适人选。这一方案的好处主要在于，尼古拉耶夫是主动萌发暗杀念头的。一九三四年十二月一日晚，尼古拉耶夫进人斯莫尔尼宫，此时有人告诉基洛夫说有人叫他去接克里姆林宫来的直线电话。基洛夫从桌边站起，走出会议厅，并顺手去开门。就在他开门的一瞬间，枪声响了。基洛夫被一枪击毙。
斯大林以专车将基洛夫的遗体运到了莫斯科。为了与遗体告别，盛殓尸体的棺木就按历来的规矩安放在苏维埃之家的大厅中央。据报导，斯大林守灵时，因失去朋友和战友而万分悲痛，并怀着对基洛夫的深切“爱戴”，几次俯身亲吻死者。匆匆处决了直接凶手和秘密除掉了一些知道或怀疑内务部在此案中所起作用的旁证之后，斯大林觉得平安无事了，于是决定重新回到起初策划的阴谋上。斯大林制造这宗案件。就是要尽快治罪于季诺维也夫、加米涅夫和其他原反对派领袖。就在凶杀案发生后的第十六天上，形势急转直下。季诺维也夫、加米涅夫以及其他许多过去的反对派分子统统被捕。 一九三五年一月十五日，季诺维也夫和加米涅夫被判处五年徒刑，关进了集中营。
接着，肃反在全国展开，出现了大逮捕、大杀人的高潮。1990年1月30日，前苏联国家安全部副主席皮罗日夫在部务会议上称，根据现存档案材料统计：“从1930年到1953年，苏联全国有三百七十七万八千二百三十四人受到政治迫害，有七十八万六千零九十八人被处以极刑（遭枪杀）。” 但这个数字并不完全。 一个典型的例子是：1934年联共（布）十七大代表一千九百六十六人中，有一千一百零八人因反革命罪被捕；他们绝大多数悲惨地死于集中营和监狱中。由于这些党代表不是直接死于被判的死刑，他们的死亡就不能进入七十八万这个数字中。类似的情况相当多，前苏联陆海军总政治部副主任沃尔科戈诺夫上将在担任苏联国防部军史研究所所长期间“有权查阅所有档案馆资料”。他说：“在1937和1938这悲惨的两年里，照我的看法，大约有三百五十万至四百五十万人遭到镇压，其中有六十万至八十万人死去是判了死刑的。此外，还有相当相当多的人并没有被法庭判处死刑而是后来在劳改营和监狱中不明不白地死去的。”
因基洛夫一案列宁格勒州有三千二百多名党政干部被捕。基洛夫女秘书拉祖尔金娜原是三十岁的美丽妇女，从集中营获释后变成了白发苍苍的“祥林嫂”，牙齿全掉光了，两眼直愣愣的。拉祖尔金娜已经呆傻，还把集中营看守唆使犯人们强奸她的事告诉给人听，赫鲁晓夫同情她的遭遇（拉祖尔金娜入党介绍人是赫的夫人克鲁普斯卡娅），后来让她当了苏共二十大代表。
斯大林对每一个“政敌”的家庭都是采取斩草除根的方法。苏联元帅图哈切夫斯基被处死。他的母亲在集中营既哭儿子，又哭媳妇。老人家还不知道，她的另外两个儿子也被枪决了。加米涅夫被枪决后，接着是他的妻子、两个儿子（一个尚未成年）以及他的兄弟、弟媳妇被枪决。托姆斯基（全苏工会主席）自杀后，他的妻子被捕入狱，三个孩子有两个被判死刑。沃兹涅先斯基（苏联部长会议第一副主席）被处决，他的弟弟、姐妹也跟着全都被枪毙。著名飞机设计师图哈切夫斯基的一家总计倒下了十个人——妻子、两个弟弟、三个妹夫被枪毙，母亲和一个妹妹死于集中营，女儿（独生女）斯维特兰娜在少年监狱染上重疾，出狱不久就病死了。外甥女玛丽娜因缺乏亲人照料，很小年纪就患了肺结核，后来也病死了。三个妹妹、两个弟媳全被判刑，其中一个妹妹在集中营里蹲了十八年，1955年才获自由。侄儿安德列被敖德萨儿童保育院收养。这是一个专门收养“人民公敌”孩子（孤儿）的保育院。卫国战争爆发后，这个保育院的五百多个孩子被疏散到恩格斯市，到达时只剩下一百二十个。 乌克兰共产党中央委员会书记柯秀尔受尽严刑拷打，被处决前仍拒绝作假交代。“他的刽子手们把柯秀尔的十六岁的女儿带到审讯室，当着父亲的面把他的女儿强奸了。此后，柯秀尔就在所有‘交代’上签了字，可是他的女儿被放出来以后卧轨自杀了。”
为了使“犯人们”的精神更痛苦，斯大林在1935年想出一个举措。苏联政府在这一年颁布了一条新法律。该法律规定，十二岁以上（含十二岁）儿童犯偷窃等罪按成年人条例判罪，直至被判死刑。斯大林的这条法律是为即将开始的大清洗做准备的。斯大林预见到在即将开始的逮捕浪潮中，一些重要的“犯人”决不会轻易就范，有了这条法律（对儿童判死刑），就可以利用他们对儿孙的疼爱、牵挂之心，对其进行精神上和心理上的折磨，让他们愿认什么罪就认什么罪，要诬陷谁就诬陷谁。1936年至1938年，苏联“许多大城市出现了这样一种可怕的现象：十至二十岁的青少年自杀的事件不断发生。其中就有许多是被清洗掉的人的子女。他们在自杀前还常常给斯大林寄信诉说惨情，但这些信被加注的评语都是：把这些青少年赶出莫斯科去，以免让外国记者和外宾看到这么多被抛弃街头的孤儿” 。
布哈林、季诺维耶夫、皮达可夫（苏联重工业部副部长）、拉狄克（苏联《消息报》副主编）、叶戈罗夫（苏联元帅）、埃德曼（苏军上将、伏龙芝军事学院院长）、丘巴尔（苏联人民委员会副主席兼财政部长）、艾赫（苏联农业部部长）的年幼的孩子们（他们都已经成为孤儿）都被“格伯乌”（国家政治保卫局）收容，后来被送交卡申科儿童精神病院。该精神病院隶属“格伯乌”，“人民公敌”的孩子们在这里继续受到各种虐待。这些孩子经常因“违反院规”而遭到毒打，不少儿童在精神上受到了严重的摧残。著名记者帕尼佐夫斯基的孩子在“治疗”中被治疯了，皮达可夫的孩子因对参观团说“你们看到的都是假的”被毒打后转院送走，后来下落不明。最可怜的是布哈林的养子安德列·布哈林。十三岁的安德列在布哈林夫妇被捕时因拦救他们被保安人员打伤，送卡申科时身体非常衰弱。当安德列得知他的养父已被枪决时，他在厕所里上了吊。拉狄克的侄儿鲍利斯·索贝尔松是个非常纯真的孩子，他在卡申科反复说要相信党和斯大林最终会了解我们的冤情的，他在1957年获得平反，他收到平反通知书的第二天就自杀了。
斯大林也没有忘记托洛茨基和他的亲属。亚·利·索科洛夫斯卡娅是托洛茨基十九岁时，在布特尔监狱里与他举行婚礼的结发妻子，她以前同孙子们住在列宁格勒，后被流放到西伯利亚，在集中营里悲惨地死去。第一次婚姻使托洛茨基得到两个女儿——季娜伊达和尼娜。尼娜还在父亲流放阿拉木图时就因患肺结核而去世。季娜伊达则被驱逐出苏联。一九三三年在德国自杀身亡。姐妹俩的丈夫沃尔科夫和涅维利松都是国内战争的参加者，后都死在集中营里。谢多娃是托洛茨基的第二任妻子。这第二次婚姻给了他两个儿子——列夫和谢尔盖。一九三二年一月，谢尔盖被宣布为人民的敌人，最终死在集中营里。他的妻子依然没有逃脱同样的厄运。尽管谢尔盖与他的妻子在他被捕前约一年半已经离婚。在巴黎，托洛茨基的长子列夫神秘地死去。在国内，成千上万的人们，仅仅因为与定名为托洛茨基的追随者相识，而被投入集中营和监狱；。
１９４０年８月２０日，正当托洛茨基专心致志地阅读一篇文章时，一名刺客潜入他的书房，用锋利的冰镐对准托洛茨基的头给以可怕的一击。因大脑受伤过重，托洛茨基终于在８月２１日１９点２０分去世。凶手是苏联内务人民委员会的特工, 西班牙人米尔卡杰尔, 他装扮成一个耒自加拿大的记者, 托洛茨基的崇拜者。所有参加这次成功的暗杀活动的人员都获得了国家最高奖赏。刺客的母亲艾乌斯塔西娅·卡里达德获列宁勋章，由加里宁亲自为她授勋。贝利亚为此送来一箱１９０７年装瓶的“纳帕列乌利”葡萄酒, 商标上还绘有沙皇的双头鹰标记。1960年,刺客米尔卡杰尔在服完20年徒刑后被授于苏联英雄称号。为这次暗杀化费了500万美元。 坐镇莫斯科指挥的国家安全总局付处长巴维尔. 苏达普拉托夫1994年在纽约出版<<特殊使命>>一书详述了这次暗杀的经过。
随着斯大林暴行的增加、他的同谋者也就越来越多。斯大林害怕自己在世人面前名声扫地，决心在一九三七年除掉所有亲信，使其永远不能成为他的罪行见证人，一九三七年春，内务部绝大多数领导人，以及那些按他的直接指示而对布尔什维克党的奠基人、十月革命的领袖们大搞刑讯逼供的侦讯人员，统统未经侦查和审判便被枪决了，此后，上千名内务部工作人员又相继销声匿迹：这些人在内务部工作过，多多少少知道一些有关斯大林罪行的绝密材料。
此外，在1929年到1933年间进行的消灭富农运动和强迫集体化的农村革命中，有八百五十万到九百万农民被镇压。 这些数字不包括由于1932年至1933年大饥荒所造成的农民大量死亡，也不包括由于民族强迫迁徙而造成少数民族的大量死亡。
在当时的苏联，到处可以看到这么一张斯大林的照片∶斯大林举起一只手给大家指引道路，脸上是慈祥的微笑，一对关心人的眼睛眯缝着。在照片背后，却是病态般的残忍、无情和狡诈，使用恐惧、屠杀和欺骗来维持他的权力。
杀了这么多人的斯大林在个人安危上随时都是提心吊胆的。下面是几个最能说明这一点的例子。
每当红场上举行庆典，斯大林出现在列宁陵墓上时，四周都有由一队队精悍的卫兵和一大群来自内务部的贴身保镖组成的人墙。不仅如此，他还要在制服内穿一件沉甸甸的防弹背心，那是在德国专门为他定做的。
斯大林常到郊外官邸。为确保途中安全，他要内务部将沿途街上的居民迁出三分之一，并将腾空的房屋供内务部工作人员居住。从克里姆林宫到郊外官邸共有三十五公里。作为斯大林的专用交通线，巡逻守卫的“机关”工作人员昼夜不断。值勤人员分为三班，每班人数多达一千二百。
甚至在克里姆林宫的高墙内，斯大林也不会冒险独行。比如说，他要离开办公室到大克里姆林宫殿去，也要先由卫队认真地将路上的人统统撵开，根本不管那些人的职位高低。
斯大林每年要到索契去休假。动身前，他总是吩咐把在莫斯科的专车和在高尔基市的专船同时准备好。他的专车和专船得提前几天做好充分准备，但只是到出发前的最后几个钟头，斯大林才把此次选择的路线告诉几个亲信。在他那安装有特制护板的列车前后，各有一列坐满卫队的列车。斯大林专车上的储备极为丰富，足以渡过为时两周的围困。一有警报，专车窗外的钢甲护板便会自动关闭。
赫鲁晓夫1956年2 月在苏共第二十次代表大会上作的题为《关于个人崇拜及其后果》的秘密报告，首次披露并谴责了斯大林对党的高级干部进行大规模清洗和镇压的恐怖行为的若干历史事实。苏共随即着手平反大批历史上的冤假错案。 戈尔巴乔夫出任苏共中央总书记后，再次提出对苏联历史上重大案件重新调查与评价。苏共中央政治局1987年组成了重新研究30至40年代和50年代初迫害事件委员会进行工作。1988年起，已有布哈林等多名先后在30年代后期至50年代初被处决的苏联前领导人被恢复名誉。
近年来，随着大批档案的解密，出版了很多关于斯大林肃反的专著，例如俄罗斯历史学家拉津斯基的“斯大林” 一书，透露了大量令人毛骨悚然的事实。俄罗斯一些民间组织通过艰苦努力，已陆续找到一些当年埋葬“人民公敌” 的场所，例如2002年在圣彼得堡附近发现了埋有三万多名从1937到1938年间被处决者的遗骸，头盖骨后脑勺处都有弹孔，这是当年处决犯人的典型方式。随着时间的推移, 斯大林肃反的全部真相必将大白于天下。