蒋经国奉蒋介石之命整合各行其是的情报特务机构，其主要目的是想利用情报特务机构巩固蒋介石与国民党在台湾的政治统治。蒋经国认为大陆军事的挫折，大多由于情报的失败。他说：
当时我们得不到中共的军事活动情报，而中共则潜伏在我们内部，到处活动，甚至我们的军事首脑部，也有他们的踪迹。因此，我们的军事计划、军事配备、部队调动，中共了如指掌，遂能运用避实就虚的战术，把我们的部队分别孤立，一个一个的打倒。血的教训给我们太大了。痛定思痛，我们不能再踏以往的覆辙，我们要看保密防谍的工作，比我们生命还要紧。无论如何，不要叫敌人得到我们一点一滴的消息，而使他们变成瞎子。
为了做好保密防谍工作，迁台之初的蒋经国与他的情治人员开始在台湾大规模地清理和整肃。1950年1月27日，台湾“行政院”根据蒋介石的意思，颁布了《反共保民总体战纲要》。纲要规定动员全岛的人力和物力，实施各种“反共”战略。纲要还规定，台湾公民必须宣誓：“我自己绝不通匪，并不容他人通匪，如违反此誓言，愿受民众大会制裁。”4月14日，台湾“立法院”修订了“戡乱时期惩治叛乱条例”，扩大惩处范围，加重惩处标准，扩大军、警、宪、特的权力。6月13日，蒋介石颁布《戡乱时期检肃匪谍条例》，该条例规定：（一）发现“匪谍”或有“匪谍”嫌疑者，无论何人均应向当地政府或治安机关告密检举。（二）人民居住处所有无“匪谍”潜伏，该管保甲长或里部长应随时严密清查。（三）各机关、部队、学校、工厂或其他团体所有人员，应取具二人以上连保切结，如有发现“匪谍”潜伏，连保人与该管直属主管人员应受严厉处分。（四）治安机关对“匪谍”或有“匪谍”嫌疑者，应严密注意侦察，必要时得予逮捕。
蒋经国甚至公然宣称：“在今天这个时代里，没有一处是没有敌人的，不管是教育、文化、社会，各部分都有敌人在随时随地的破坏我们。”为了消灭这些“敌人”，台湾的特务机构在蒋经国的指挥下，权力无边，无所不能，可随时插手政治、经济、军事和文教等各个领域，上自国民党高级官员，下至平民百姓。据统计，仅在1950年上半年内，台湾情治机构破获中共地下活动案300件，牵涉的嫌疑犯在千人以上。其中主要有：
“中共台湾省工委事件”。1949年10月，蔡孝乾领导的“中共台湾省工委会”在成功中学、台湾大学法学院、基隆中学等处的分部，相继被国民党当局破获，多名负责人被捕。4月31日，“台湾工委高雄市工委会”被侦破，书记陈泽民、委员朱子慧被捕。10月，“高雄市工委会”所属工人运动支部人员谢添火、庄识宰等18人，农民运动支部人员蔡国智、于开雄等八人，学术运动支部人员梁清泉、何玉麟等九人先后被捕入狱。12月，“台湾省工会”的张志忠、李法夫妇被捕并判死刑。1950年1月，蔡孝乾也被捕入狱。5月13日，蒋经国宣布破获中共在台湾的组织“台湾省工作委员会”，同时要求蔡孝乾、陈泽民、洪幼樵、张志忠等人发表声明，解散“台湾省工作委员会”，并要在台的中共地下党员自首。6月1日，蔡孝乾在《中央日报》发表自首声明。由于蔡孝乾自首后，供出了在台400余名中共地下党员名单，蒋经国先后逮捕涉案人员达1000余人。
“吴石案”。1950年3月1日，时任“国防部中将参谋次长”的吴石，由于受“中共台湾省工委事件”牵连，被台湾特务机关秘密逮捕，罪名是“为中共从事间谍活动”。受该案牵连的人有：吴石的妻子王壁奎，中共联络人朱湛之，老部下聂曦，前“联勤总管”第四兵站中将总监陈宝仓，中校参谋方克华，参谋江爱训，吴石的副官王正均等人。1950年6月10日，吴石、陈宝仓、聂曦、朱湛之四人被特别军事法庭判处死刑，其余的人也被投入监狱。
“台糖、台电事件”。1950年3月，发生了震惊全岛的两大企业——台糖、台电事件。台糖公司总经理沈镇南因“故意不出售糖，保留物资让共党接收，准备以台糖铁路供共军登陆用”的罪名被枪毙，牵连枪毙的有人事室主任林良桐，部下史国英等人被判刑。台电公司总经理刘晋钰及职员严惠先均遭枪毙。刘晋钰的罪名是：其子在台大参加“左倾”团体被逮捕，刘将其保释后纵之投奔大陆；严惠先在大陆失守后滞留一段时期后方来台，有通共嫌疑，而严住在刘家，刘对他甚好，有以女许之的传言，随翁文灏投奔共产党的台电董事长陈冲熙曾写信给刘晋钰。其实，台糖、台电两公司的总经理以“莫须有”的罪名被枪毙，主要是与他们的顶头上司有关。当时，主管“中华民国”公营事业资源委员会的正副主管翁文灏、钱昌照、孙越崎等前后投奔了大陆。而到台后公营事业的头头们均系以前翁文灏等委派，与翁文灏、钱昌照、孙越崎等有千丝万缕的关系。“政府当局，恐一旦时局更恶化，此辈可能变节。故特以最大之糖、电两企业开刀，以杀鸡儆猴。果然，沈、刘案以后，各公营企业首长，战战兢兢，半夜有人敲门，即心惊胆怕。”
除了上述比较大的案子外，还有很多案子是台湾情治人员编制出来的，很多进步人士和无辜的知识分子被莫名其妙地抓起来枪毙或坐牢。诺贝尔奖得主李政道的母亲张明璋和兄弟李崇道，因在淡水家里留宿一位广西大学时的同学，竟被以“掩护匪谍”罪投进了监狱。甚至有人因为藏有马克·吐温著的《汤姆历险记》一书，被情治人员视为马克思的著作惨遭关押。正如江南所说：“特务所逮捕的，自有不少同情中共的分子，但其中，更多是无辜的人民或光复初期来台的知识分子。”曾任台湾“经济部”政务次长的汪彝定回忆说：
1950年代初，台湾正染患上保密防谍症候，当然谁也不能否认当初中共确有颠覆活动，但哪有那么大的本事，布置到各行各业，有千千万万人替它工作呢？主持防谍事务的人，是那么一批多疑而又夸大中共本领以突显自己工作重要性的人，性情多半偏狭暴戾，又有生杀大权在手，且深获当局信任。与他们是无理可讲的，谁能不怕。在那个阶段中，死于冤狱者有多少，恐已无人得知。
1954年，蒋经国曾对人表示，台湾情治机构每月平均破获13件“共谍”案，而据保安司令部公布，仅在这一年的前三个季度，就破获858件颠覆案，涉及嫌犯1745人。至1950年代中期，台湾省保安司令部绿岛关押的政治犯大约有14000人。自1949年至1987年官方宣布被抓的人数是29407人，枪毙者约4500人。其实，具体的人数已经不再重要，重要的是它留给人们这种白色恐怖的心理阴影一直难以磨灭。
对于1950年代的白色恐怖，蒋经国自己认为这是革命的需要。他曾对部下说：“革命就是法律，我们身负革命重任，不能处处遵守法律。国家危急存亡之秋，以此与大家共勉。”蒋经国强力推行特务政治，执行白色恐怖政策的做法，虽然使台湾政局日益稳定，但蒋经国也因此而遭到非议，以致他1953年访问美国时，美国国务卿杜勒斯曾当面指责其特务工作粗暴。为此，有人规劝蒋经国，叫他不要领导情治工作，但蒋经国却说：
最近有几位知己朋友向我这样坦率表示，他们说，不论为了工作也好，为了党国设想也好，希望我要丢开情报工作，因为这是一件吃力不讨好、又没有前途的工作。他们的话出于好意，就个人言，固可感谢，然而他们错了，他们都忽略了时代的需要，也不了解现实的环境。前天，我们亲聆领袖剖切训示，其中一再阐明情报工作的重要性，说，没有情报，就没有组织，也就没有革命，使我们更能体认“情报为先，组织第一”的意义。
然而，他的父亲蒋介石却接受了外人的劝告。为了改善蒋经国的形象，1954年蒋介石取消了“总统府机要室资料组”，改名为“国家安全局”，以郑介民为局长、陈大庆为副局长，直属于“国防会议”。“国防会议”是仿照美国国家安全保障会议而设立的，实行委员制，委员由“总统”指名任命，开会时由“总统”蒋介石任主席，设秘书长一人，副秘书长一人。秘书长先后由周至柔、张群、顾祝同担任，副秘书长由蒋经国担任。事实上，副秘书长蒋经国仍然负责情治单位的人事、业务与预算，只是隐身在幕后了。
