刘太后死后，范仲淹才被召回朝廷，任右司谏。有了言官的身份，他上书言事更无所畏惧了。明道二年（公元1033年），京东和江淮一带大旱，又闹蝗灾，为了安定民心，范仲淹奏请仁宗马上派人前去救灾，仁宗不予理会，依旧在宫中过着奢华的生活。范仲淹十分气愤，冒着触犯龙威的危险质问道：“如果宫中半日不食会怎么样？现在许多地方百姓没有饭吃，怎能置之不理？”说得仁宗无话可答，只好派他去江淮一带安抚灾民。范仲淹每到一地就开仓赈济，并且免除了灾区的一部分赋税。为了劝戒挥霍人民血汗的皇室，他还把饥民吃的野草带回来献给仁宗，并请他转给妃嫔贵戚们看，让他们知道老百姓过的是什么日子，不要过分奢侈。
范仲淹这样大胆地谏诤，震动了整个朝廷。当时北宋政权把持在以宰相为首的大官僚手中。他们玩弄权术，排斥异己，千方百计地维护自己的既得禄位，只想保持现状，反对任何改革，更害怕别人批评，对范仲淹的耿直十分恼火。就在这年冬天，吕夷简利用后妃争宠的矛盾，怂恿仁宗废掉了对他不满的郭皇后。范仲淹上书坚决反对，反被吕夷简借皇帝之手贬出了中央。直到两年后，由于他在苏州治水有功，才又被召回朝廷。范仲淹刚一回来，吕夷简就派人暗中警告他：“你现在的职务是侍从官，不是言官，用不着你多费口舌去议论国政。”范仲淹听出话中的深意，理直气壮地答道：“议论国事正是侍臣的职责，我怎敢不尽力呢！”
吕夷简知道范仲淹不好对付，又想将他挤走。当时京城开封府是最复杂难治的地方，吕夷简故意派范仲淹去做开封知府，想用纷繁的事务缠住他，使他无暇上书言事，并打算趁他稍有差错时立即罢免。没想到范仲淹一到任就大力整顿官僚机构，剔除弊政，把工作安排得井井有条，仅仅几个月，号称繁剧的开封府就“肃然称治”。城中流传着一首歌谣道：“朝廷无忧有范君，京师无事有希文。”吕夷简煞费苦心安排的诡计未能得逞，反而大大提高了范仲淹的声望。
范仲淹看到吕夷简等大官僚互相勾结，朋比为奸，将自己的亲信、党羽安插在要职上，对这种陈腐污浊的空气十分痛恨。景祐三年（公元1036年）范仲淹把京官晋升情况绘制成一幅百官图交给仁宗看，指明哪些人是按规定升迁的，哪些人是宰相以私人关系提拔的，对吕夷简任人唯亲培植私党的行为进行了毫不留情的揭露。吕夷简知道后，恼羞成怒，忿恨地对仁宗说：“范仲淹不是谏官，不该越职行事，他中伤我正是要挑拨我与陛下的关系，以便他交接朋党，蒙蔽陛下。”仁宗一向没有多大主见，听信了谗言，将范仲淹贬至饶州（今江西鄱阳）。
范仲淹这次遭贬，在朝廷上掀起一场轩然大波。许多正直的官吏早就不满吕夷简堵塞言路，排斥异己的做法，一听说范仲淹又被罢黜，都非常愤慨，集贤院校理余靖立即上书说：“范仲淹指责宰相的过错，有什么错？朝廷三次罢免这样敢于直言的人，今后谁还敢再说话？望陛下收回成命。”馆阁校勘尹洙、欧阳修也相继为范仲淹鸣不平，并激烈地抨击吕夷简一伙。一时间朝廷上形成了阵线分明的两派。吕夷简看到这些下级官吏也敢公开责骂自己，更加火冒三丈，便怂恿仁宗把余靖、尹洙、欧阳修等指为朋党，一起贬出了朝廷。这还不算，又在朝堂上贴出榜文，禁止百官越职言事，公开压制舆论。这就是北宋历史上的“范吕党争”，宋朝的党争就是从这时开始的。这种党争是北宋统治阶级内部的冲突，但是以范仲淹为首的一批官吏反对大官僚集团因循守旧的腐败统治，主张选贤任能、安抚人民、革新政治，这在客观上是有进步意义的。因此得到人民的同情和部分封建大夫的拥护。
范仲淹虽然三次被贬，名望却越来越高。第一次外贬时，亲朋们一直把他送到都门外，称赞他说：“此行非常光荣。”第二次外贬时，同僚们又来为他送行，鼓励他说：“此行更加光荣。”第三次被贬仍有人不顾吕夷简的威胁恫吓去送别，并安慰他说：“此行尤其光荣。”范仲淹听罢大笑道：“仲淹前后已是三光了。”
景祐三年深秋，范仲淹乘船去饶州上任。他如今虽已年过半百，但仍壮心不已，决心要成就一番事业。
龙图老子抗击西夏
对于北宋的边防来说，来自北边的威胁主要是辽，来自西边的威胁主要是西夏。宋仁宗宝元元年（公元1038年）冬天，宋朝西北边境局势突然紧张起来，党项族首领李元昊建国称帝的消息震撼了宋朝朝廷。元昊自称皇帝，建国号大夏，意味着宣告中止对宋的臣属关系。宋朝闻讯后于次年下诏削除元昊官爵，断绝贸易。一时间，西北地区战云密布，一场战争即将爆发。
西夏的突然挑衅，使宋朝措手不及，朝廷上有的主攻，有的主守，吵成一团，宋仁宗也举棋不定。边境上由于三十多年无战事，宋朝边防不修，士卒多未经战阵，平常又缺乏训练。步兵携带武器和口粮，走几十里就气喘嘘嘘，骑兵中有的不会披甲上马，射出的箭在马前一二十步就落了地。带兵的将帅也多是皇帝的亲戚故旧，根本不懂军事，再加上将领更换频繁，军纪松弛，所以当时人评论：“以屡易之将，驭不练之士，故战则必败。”
公元1039年，夏军已进犯宋之边境，到了康定元年（公元1040年）正月，元昊又率大军进逼延州（今陕北延安）。延州一带地阔寨疏，兵力薄弱，又是夏军出入的必经之地，元昊早就想拔掉这颗钉子。当时延州的知州范雍是一个志短才疏的胆小鬼，他一听说夏军来犯，吓得紧闭城门不敢出战，忙遣人去调援军。谁知元昊早已在延州附近的三川口设下埋伏，援军刚到就陷入重围，死伤甚重。眼看延州就要失守，范雍束手无策，只会躲在城中祷告神佛保佑。幸亏这时纷纷扬扬下起鹅毛大雪来，元昊怕被风雪困住，匆忙撤兵而去，延州城才未陷落。但是延州以北的三十六个寨堡却都被夏军荡平了，东西四百里屏障一扫而光，延州完全变成了一座孤城。
三川口的惨败使仁宗大为恼怒，他一气之下贬了范雍的官，并一再更换陕西方面的统帅，但都不得力。这年五月，任命夏竦为陕西经略安抚招讨使。为了加强军事指挥的力量，韩琦负责泾原路；范仲淹负责延路。这时的范仲淹已经52岁了，仕途上的艰辛蹉跎使他早已霜染鬓发，但是忠贞报国的热情却不减当年。他一接到调令，就立即从越州奔赴前线。秋天，当范仲淹风尘仆仆赶到处境最险恶的延州时，呈现在他眼前的是一派非常荒凉的景象。到处是断壁残垣，茅庐草舍被焚烧成了废墟，百姓死的死，逃的逃，少数留下的也是无衣无食，苟延时日。范仲淹凝视着秋风中瑟瑟摇曳的野蒿荒草，想到战争给宋朝和边民带来的灾难，心头十分沉重，当即写下一首《渔家傲》：
塞下秋来风景异，衡阳雁去无留意。四面边声连角起，千嶂里，长烟落日孤城闭。浊酒一杯家万里，燕然未勒归无计。羌管悠悠霜满地，人不寐，将军白发征夫泪。
当时摆在范仲淹面前的就是这样一副残局。但是最令他忧虑的倒不是环境艰险，而是宋朝到这种时候还没有制定出一个切实可行的抵御方略。一连数日，他马不停蹄地视察鄜延一带地形和边防守备，听取守边将士的意见。视察归来，便废寝忘食地谋虑对付西夏的战略方针。
范仲淹反复权衡着宋夏双方的实力对比：宋军人数虽多，但缺乏强将精兵，战斗力差；夏军人数较少，但人擅骑射，兵精马劲，加上西夏境内山川险恶，又多沙漠，其都城远在黄河以北，远而险，不易攻取。宋若兴兵深入，粮草辎重的运输，绵延百里，很容易遭到敌骑的截击，一旦粮饷接济不上，就有被歼的危险。在这种敌强我弱的形势下，采取深入敌境大举进攻的方针是十分冒险的。但是，夏国经济力量薄弱，粮食不足，绢帛、瓷器、茶叶等都需从宋朝输入，这又是它的致命弱点。只要宋军对内修固边城，精练士卒；对外坚壁清野，不与大战，夏军大攻，就闭垒以待隙，小攻，则扼险以制胜；同时实行经济封锁，两三年后西夏自会困弱下去，那时就可迫其讲和了。想到这里，一个完整的战略方案在范仲淹头脑中酝酿成熟了，他忙提笔写好奏章，向朝廷提出了一整套以防守为主的御夏方针。这是一个符合客观情况的战略方针，但是当时却被不少人认为是怯懦的表现，就连与范仲淹私交很深的韩琦也不能理解。
在战略上，韩琦主张进攻，他上表说：“宋军拥有二十万重兵，只守界濠，这么怯弱，自古未有，长此以往，士气都要丧失光了。况且兴师以来耗资太大，再拖延下去，国家经费更加困难。”他要求集中各路兵力入讨，速战速决。两种主张报到中央后，急于求成的仁宗采用了韩琦的主张，命令韩琦和范仲淹同时出兵。范仲淹感到这样做太冒险，连上三表反对，但都无效。他只好请求留下鄜延一路作为将来招纳西夏之用，仁宗勉强答应了。
庆历元年（公元1041年）正月，陕西主帅夏竦又派尹洙去延州说服范仲淹出兵，范仲淹执意不肯。尹洙见他坚持己见，不禁叹息道：“范公这就不如韩公了，韩公曾说过：‘大凡用兵，当置胜败于度外’。”范仲淹一听，立即反驳说：“大军一动，关系万人性命，竟可置胜负于度外吗？我不敢苟同。”韩琦得知劝不动范仲淹，便贸然决定泾原一路自行出讨。他调集了镇戎军的全部人马，又临时招募了一万八千壮士，全交给副将任福率领。出兵后，任福及诸将轻敌贪功，被一小股佯装败退的夏兵引诱，脱离了原定的行军路线深入追击，当人困马乏的大军行至六盘山南麓的好水川口时，突然鼓声大作，伏兵四起，宋军陷入了元昊的埋伏圈。经过一场血战，任福等诸将战死，阵亡的士卒达六千余人。
韩琦率领残兵败将撤退回来，刚走到半路，只见数千名阵亡士兵的父兄妻子，手里捧着死者的旧衣，提着纸钱，拥到韩琦马前大哭道：“昨天你跟着招讨使（指韩琦）出师，现在招讨使回来了，你却死了，你的魂魄能跟招讨使回来吗？”哀哭声震动了山野。见此情景，韩琦满面惭色地勒住马，也不禁潸然泪下。范仲淹听到败讯，叹息道：“这时就难以置胜败于度外了。”
好水川的惨败教训了韩琦和朝廷上主张速战速决的人，仁宗也放弃了进攻的方针，改而采取守策。战略确定以后，还必须有相应的措施来保证它的实行。于是范仲淹推行修固边城、精练士卒、招抚属羌等相应的措施。
修固边城就是在宋夏交界的前沿阵地修筑寨堡，建立军事据点。范仲淹的部下种世衡建议，在延州东北二百里古宽州的故垒上筑城。这里地处要冲，右可屏障延州，左可得到山西的粮食，北可以进图银、夏二州。范仲淹采纳了这个意见，派种世衡率兵前去修筑。夏兵来争，种世衡就一边作战一边抢修。城内缺乏水源，他出重金奖励凿井，终于从地下150尺处冒出了清泉，于是取名为清涧城。种世衡又大兴营田，一年收获粮食近万石，补充了军粮；又募商贾通贸易，经济上逐渐充实起来。同时鼓励军民练武习射，把银钱当靶心，谁射中就赏谁，自此人人能射，终于使清涧城成为延州北面一个坚固的军事要塞。在范仲淹及其后任的努力下，不仅修筑了新的军事据点，而且还先后修复了永平、承平等旧寨十二处；招回附近逃亡的蕃汉人户，开辟营田数千顷，恢复了农业生产。这些寨堡有力地屏障了延州，使延州的防务稳固下来。夏军私下告诫说：“别想打延州的主意了，现在的小范老子（指范仲淹）胸中有数万甲兵，不像大范老子（指范雍）好欺负。”
庆历元年十月，宋朝调整了兵力部署，罢免了主帅夏竦等，将西北前线划分为秦凤、泾原、环庆、鄜延四路，分别置帅，范仲淹负责环庆路的军事。一年以后，韩琦、范仲淹被提升为陕西沿边的总帅，统一指挥四路军事，范仲淹的主张得以全面推行，延州筑寨的经验被推广到各路。当时宋夏交界处，被夏军占据的地段有的伸入宋境百余里，隔断了州与州之间的联系，不便互相接应。范仲淹主张选择这些地区作为进攻的重点，攻取一地，即建一城，派兵驻守。稳扎稳打地逐步向前推进。没过几年，宋在延州与庆州之间修筑了大顺城，在环州和镇戎军之间修筑了细腰城和葫芦泉诸寨，打通了各州之间的道路，一方有警，各方应援，便于调集兵力抵御夏的进攻。沿边寨堡的修建，在各路的北面竖起一排排屏障，有效地加强了宋军的防守能力。
精练士卒，就是采取各种办法提高军队的战斗力。一是大力整顿现有军队，淘汰老弱，选择强悍武勇的士卒，重新编制，指定专人负责统率和训练，改变过去兵将不相识的状况。特别是淘汰了一批怯懦无能的将校，选拔了一批经过战火考验的有才干的人代替他们，这对士兵的鼓舞很大。再则是招募士兵，提高军队的素质。原来守边的大都是从内地调来的已经腐化的禁军，这批人既不耐劳苦，又因久戍思乡，斗志不高。而从本地人民中招募的士兵，熟悉山川道路，强悍敢战，又因保卫家乡，斗志较强，从而提高了军队的战斗力。此外，范仲淹能以身作则，将士没喝上水他从不说渴，将士没吃上饭他从不叫饿，朝廷赏赐给他的金帛都分发给将士。
范仲淹、韩琦都赏罚分明，奖励勇猛杀敌的士兵，提拔重用立功的将领，对克扣军饷的贪污分子则当众斩首，毫不留情。在范仲淹的率领下，西北军中涌现出许多像狄青、种世衡那样有勇有谋的将领，又训练出一批强悍勇战的士兵。直到北宋末年，这支军队仍是宋朝的一支劲旅。
与此同时，范仲淹还大力争取宋夏交界处的少数民族。在沿边横山一带散居着不少羌族部落，他们在宋、夏间持观望态度，有的曾投靠夏，为元昊作过向导。范仲淹一方面筑堡立寨，切断他们与西夏的联系，并用兵保护他们的安全；另一方面极意招抚他们，羌族酋长来见，范仲淹屏退卫兵，亲自接入卧内，推心置腹相谈。对受到战争损害的羌族人民则拨给空地，发放粮食、农具等，帮助他们恢复生产。这一政策受到羌族人民的拥护，他们亲热地把范仲淹叫做“龙图老子”（当时范仲淹的职衔是龙图阁直学士），羌族部落纷纷归附宋朝，担任向导，并出兵助战，使西夏日益陷入孤立无援的境地。元昊几次进攻，非但得不到什么好处，反而损兵折将，夏军锐气大减，不敢再轻举妄动了。
范仲淹居边不过三年，在西北人民的支持下，由于推行了一套切合实际的战略方针和防守措施，迅速扭转了宋朝被动挨打的局面，使已经破坏的边防重新又巩固起来。边境上流传着一首歌谣说：“军中有一韩（指韩琦），西‘贼’闻之心胆寒；军中有一范，西‘贼’闻之惊破胆。”
