1932年10月中旬，已界不惑之年的刘伯承出任中国工农红军总参谋长，协助朱德总司令、总政治委员周恩来在前方指挥作战。1932年年底，蒋介石调集四五十万人的兵力，对中央根据地进行第四次“围剿”。1933年2月，苏区中央局命令红一方面军首先围攻南丰城，结果，攻城不下。朱德、周恩来、王稼祥、刘伯承共同研究后相机决定，改强攻为佯攻，围城打援。刘伯承指令作战局长查清援敌行进路线后，根据敌情提出相应的建议。后与朱德、周恩来共同判断商议，决心集中红军主力，各个击破，首先歼灭敌军两个师。胜利完成任务后，又根据陈诚部队前后两纵队重叠行军情况，朱德、周恩来与刘伯承商议，以红军一部伪装主力吸引前纵队加快南进，拉大两纵队间距，使红军得以再次集中主力攻歼一部。此后几天，他们静观敌情变化，捕捉战机。3月19日夜，根据敌后纵队远离前纵队百里，正位于地形复杂的草台岗的情况。刘伯承便建议朱德在草台岗准备战场，得到朱德赞同。随后，他又向周恩来汇报了一夜间敌情变化和自己部队位置，周恩来同意朱德、刘伯承的作战决心和计划，并签发下达作战命令。据此，红军主力于21日围歼了地处草台岗地区的蒋介石王牌师，陈诚纵队的第十一师。气得陈诚吐血，蒋介石哀叹，下令部队后撤，第四次反“围剿”就这样被打破了。
然而，到了1934年，刘伯承这个总参谋长就成了不参不谋，有职无权的人了。因为这时由共产国际(即第三国际)派到中国共产党来的军事顾问李德已经越俎代庖，独揽了指挥红军的大权。朱德、周恩来实际上都被剥夺了军事指挥权，刘伯承因与李德发生冲突而由总参谋长降为红五军团参谋长。
长征中，刘伯承亲率先遣队为全军开路，彝海结盟，保证了红军的顺利通过，并与张国焘的分裂活动进行了坚决的斗争，为长征的胜利作出了杰出贡献。
1934年10月10日，鉴于第五次反“围剿”的失败，中央红军被迫撤离中央苏区，向西作战略转移，即后来震惊世界的二万五千里长征。当时，刘伯承所在的红五军团长期担任掩护红军全军的后卫，保护着中共中央、中革军委及直属部队的安全。刘伯承为红五军团制定了严密的行军、作战计划，并切实组织实施，他以军团的两个师互相掩护，轮番转移，稳妥地交替前进，又以1个主力团作后卫，以备情况紧急时坚决挡住敌人，使军团能迅速布置阻击，并派军团侦察部队与敌人保持接触，迷惑敌人，隐蔽红军主力行动意图。
12月18日，中共中央在黎平召开会议，采纳了毛泽东向敌力量薄弱的贵州进军的正确意见，并批准中革军委关于刘伯承再次担任总参谋长的任命。
刘伯承指挥中央纵队、红一军团第二师、干部团突破乌江以后，命令一部夺取遵义城。刘伯承亲自部署，命战士们穿上俘虏身上的衣服，装扮成敌军，再让投诚过来的俘虏走在队伍前面去诈城，结果轻而易举地攻入遵义城。
作为红军总参谋长，刘伯承参加了1935年1月15至17日中共中央在遵义召开的扩大会议。并在会上发言，批判了“左”倾军事路线的错误，表示拥护以毛泽东为代表的正确路线，并建议红军应打过长江去，到川西北去建立根据地，得到了党中央采纳。
遵义会议后，为执行中革军委关于速渡金沙江的指示，刘伯承决定巧夺渡口和船只。他亲自率领换上敌军服装的红军先遣分队，争分夺秒地向江边急进。途经距江30里的杉落树时，一个胖子区长误以为是国民党军队，欢迎刘伯承等到区分所。他告诉刘伯承：上峰来了命令，要烧船封江。刘伯承边喝水边说：我们也是来执行这个任务的，你把公文拿来看看，并问烧船没有。胖区长赶紧递上公文，说刚接到公文，还没有烧船。刘伯承说：很好，这事由我们来办吧。接着又仔细地询问江宽、流速、水深、守渡口的兵力情况。一一问明后，厉声告诉胖区长：我们是红军!随后派侦察组尾随胖区长到江边找船。结果，不费一枪一弹就控制了两条渡船。当刘伯承获知全军都要从皎平渡过江时，立即命令宋任穷留下工兵连坚守渡口，先遣营连夜翻山20公里抢占要点通安镇，途中，打垮了赶来增援的敌军。5月4日至9日，军委纵队及红军绝大部分部队，均由皎平顺利渡过金沙江，使战略转移以来遭受几十万敌军围追堵截的中央红军摆脱了困境，赢得了战略转移的主动权。
摆脱了追敌后，中共中央在会理举行了扩大会议。会议决定红军继续北进，争取在川西北与红四方面军会合。并决定刘伯承兼任先遣队司令，指挥队伍为全军开路。上任几天，刘伯承就用亲笔信，劝退了准备在德昌抵挡红军的泸州起义时的旧部，又争取了彝务指挥官邓秀廷的中立，邓秀廷慑于刘伯承在巴蜀威名久着，连刘湘也当过他的手下败将，自知不是对手，仅摆开抗击架势而不开枪，使红军顺利通过。
去往大渡河的道路有两条，敌人判定红军一定会走西昌至富林的大道。鉴于此，刘伯承和先遣队政委聂荣臻建议中革军委改走冕宁、安顺场小路，经大凉山彝族区、越过大渡河北上。获准后，刘、聂率队向彝族区进发。出发前，刘伯承反复告诫部队，要严格执行党的民族政策，广泛宣传朱总司令安定彝民的布告，争取和平通过彝族区，并规定没有刘、聂的命令，谁也不许开枪。
不久，部队行军遇到困难，先遣队前卫连被手持弓箭、土枪、棍棒等武器的彝民堵住索要钱财，后面的工兵连又遭彝民袭击，抓去的人被剥光衣服才放了回来。于是，刘伯承决定面见沽基家族首领小叶丹，化解矛盾。小叶丹来到之后，见刘伯承身材魁梧，气度不凡，忙取下头帕，准备叩头行礼。刘伯承上前一把扶住，两人开始了亲切的交谈。小叶丹解释：“今天在后连打你们的不是我，是罗洪家，听说你们要打刘文辉，主张彝汉平等，我赞成，并愿和司令员你结义为兄弟。”刘伯承表示同意，他说：那些欺负彝民的汉人，也是红军的敌人，我们结义是为了反对其同的敌人，刘伯承遂与小叶丹歃血为盟。
晚上，刘伯承宴请彝民头领，又劝说小叶丹：彝族内部要团结，自己人不打自己人，我们要共同对付镇压你们的反动政府和军阀。饭后，他任命小叶丹为“中国夷民红军沽鸡支队”的支队长，并赠旗、写委任状。第二天，小叶丹和先遣队前卫走在前头，带领先遣队进入彝民区。小叶丹告诉刘伯承、聂荣臻，要派人往前寨送红军，还要选20个人到红军中学军事，回来后打刘文辉。刘伯承说：后面红军大队还多，拜托你一定要把全部红军安全送过彝区，红军走后你要打起红旗坚持斗争，将来我们会回来的，临走，又赠送了10支步枪给小叶丹，小叶丹也将自己的坐骑，一匹大黑骡子送给刘伯承。
小叶丹不负刘伯承的厚望，组织彝民，欢送红军大队，当毛泽东、周恩来、朱德等通过时，他打着“中国红军夷民沽鸡支队”旗帜出来欢迎。红军大队一路上畅行无阻，经7天7夜，安全通过。
通过彝民区后，离安顺场渡口还剩70里了。大渡河位于横断山脉的崇山峻岭中间，河宽300多米，深30米，河水以每秒4米流速顺乱石嵯峨的河床咆哮泻下。按预定计划，第一团第一营是主攻部队。刘伯承命令孙营长立即去完成三个任务：第一，歼灭安顺场全部敌人，之后点一堆火。第二，迅速找船，之后再点一堆火。第三，做好一切渡河准备工作，再点第三堆火。孙营长坚决地完成任务后却只顾着推船忘了点火，刘伯承心急如焚，于是，亲自赶到河边。当得知一营已占领安顺场并搞到他做梦、走路都想的船时，十分高兴，指示部队睡好觉，第二天早饭后强渡，自己连夜向有经验的船夫询问大渡河水情和对面敌情。
5月25日上午9时，渡河作战开始了，轻、重机枪和冲锋号骤然响起，载着17勇士的第一只渡船向对岸驶去。刘伯承、聂荣臻走出掩体工事站在岸边观察，司号员为首长安全停止了吹号。刘伯承问：“号音为什么停了呢？继续吹!”团政委萧华跑上前去夺下了号子，挺起胸膛吹起来，刘、聂不顾个人安危，故意暴露目标，吸引敌人火力，保证渡船胜利到达对岸。强渡成功了，但全军从此渡口用一只船昼夜渡河，得用一个多月，这是时间所不允许的。经毛泽东、朱德、周恩来、刘伯承研究决定：已渡河的一军团一师、干部团和未渡河的红一军团二师、红三军团和红五军团分别为右和左纵队，两纵队夹在大渡河两岸互相策应而上，夺取泸定桥，军委纵队等随左纵队前进，两路如被分割了不能会合，刘、聂率右纵队单独走，到四川搞个局面。27日，刘伯承、聂荣臻率右纵队向泸定城急进，一路上翻山越岭，抢关夺隘。接近泸定城时，左纵队先锋团已向泸定桥发起总攻。守桥敌军得知桥东、桥西都来了红军，十分惊慌，在攻桥红军的猛烈打击下，残部向天全逃窜。至此，强渡大渡河的战斗胜利结束。
1935年6月21日，红一方面军(即中央红军)、红四方面军前卫部队在夹金山北麓会合。26日，中共中央在两河口召开了政治局会议，刘伯承以军委总参谋长身份列席了会议。会议作出了《中共中央政治局关于一、四方面军会合后战略方针的决定》，决定红军集中主力向北发展，取得甘肃南部，创建川陕甘苏区。当前的作战计划是以主力消灭与打击胡宗南部，夺取松潘并控制这一地区。7月6日，受中共中央委派，刘伯承、李富春等组成中央慰问团前往红四方面军慰问，宣传两河口会议的精神。而红四方面军领导人张国焘则指使中共川康省委出面，向党中央提了改组军委和红军总部，以张国焘担任军委主席的建议，否则，就“不能集中领导”，“顺利灭敌”。党中央一方面坚持北上方针，对张国焘的错误进行批评，另一方面为团结张国焘，任命他为红军总政治委员。8月下旬，朱德、张国焘及刘伯承率改编后的左路军与党中央率领的右路军通过茫茫水草地，准备继续北上。但是，张国焘却借口噶曲河水涨不能通过，于9月3日命令左、右两路军南下。尽管党中央三令五申，要张国焘立即率左路军北上，但他置之不理，一意孤行，分裂党和红军。
张国焘倒行逆施，政治上日益孤立，南下的军事行动处处碰壁。左路军中朱德、刘伯承等人坚决耐心的斗争，使许多干部战士逐渐提高了觉悟，北上呼声越来越高。
1936年7月下旬，红四方面军和红二、六军团会师于甘孜，不久二、六军团和红三十二军组成红二方面军。朱刘与二方面军的领导人贺龙、关向应等与张国焘坚持斗争，终于迫使张国焘同意红二、四方面军共同北上，与中央及红一方面军会合，不久，刘伯承来到红二方面军随其北上。
当时，红军三支主力会师在即。9月19日，刘伯承和贺龙、任弼时、关向应致电朱德、张国焘，致电在陕北的中共驻共产国际代表张浩、党中央领导人洛甫、周恩来，建议“马上以军委主席集中指挥三个方面作战”。对此，林育英、洛甫、周恩来、毛泽东回电表示：“统一指挥十分必要，我们完全同意任、贺、关、刘四位同志之意见，以六人组织军委主席团，指挥三方面军。”
然而，由于张国焘对北上与党中央及红一方面军会合始终迟疑，9月21日，他推翻中共中央西北局通过的《通庄静会长征结束后，刘伯承和夫人汪荣华合影。战役计划》，在漳县命令红四方面军撤出通渭等地西进，准备西渡黄河。24日，红四方面军奉命撤出通渭地区。但由于贺、任、关、刘和中央的努力，终于使张国焘于29日不得不重新下达北进命令。自此，一场可能发生的红军内部分裂行动终于避免了。
1936年10月21日，红军三大主力在甘肃静宁、会宁地区会师。28日，中共中央和中革军委任命刘伯承为前敌总指挥部参谋长，协助总指挥兼政委彭德怀统一指挥海原、打拉池战役。在此前后，刘伯承和汪荣华遭敌机空袭负伤。后来，转移至环县木钵，边养伤边主持红军步兵学校工作。西安事变以后，他伤未痊愈，就受党派遣随周恩来去西安面见国民党高级将领顾祝同，做善后工作。1937年2月下旬，西路军处境艰危，刘伯承又临危受命，出任援西军司令员，和政委张浩率红军一部西进救援。因西路军失败，援西军中止西进。随后，他和张浩领导援西军，积极开展了营救陆续跑回来的西路军幸存将士工作，正确开展清算张国焘错误路线的斗争。从而团结教育了红四方面军广大指战员，为投入抗日战争作好了思想和组织上准备。
