“抛砖引玉”之计表明：能“抛”出新思维者，才能有所获。曾国藩敢于靠打破陈规来给人耳目一新，实在是有眼力的！
本来，练军是朝廷的旨意，是慈禧太后为加强京师防卫，抵御虎视眈眈的外国军队而采取的对策，但选练六军，连捻军都不能平，更何谈“自强之道”。当时负责此事的是官文，清廷对他也有微词。早在清廷调任曾国藩为直隶总督时，就令他筹划此事。曾国藩谨遵办理，岂敢有误！
到保定总督署后没几天，曾国藩就前往大校场看将士演练队操。这也是对直隶军队的一次检阅。曾国藩吃过早饭后即正襟端坐，检阅军队。头一阵是中军所统的练军，号称直隶六军之一，共约千人。当时演练了急战阵、藤牌阵、连环阵三种阵图，每种阵图变化六七次，三阵演习下来，共有二十般变化。在西方用洋枪洋炮侵略中国的十九世纪五六十年代，曾国藩对这种用阵图变化抵御外人的传统技法表示十分忧虑，他认为这都是花架子，好看不中用，“皆花法也”。第二阵检阅的是用西方武器武装的洋枪队，由赵喜义所带，称为义胜后营。洋枪队武器虽说是西方化，但也吸收了中国的传统，即两军短距离作战所用的长矛也派上用场。第三阵是李德英所带的义胜前营，曾国藩对这一队更是失望，不但“队伍不甚整齐”，而且“末操杂技亦平平”，曾国藩用“无足观”三字表示他的不满。
经过一天的检阅，曾国藩因为“危坐太久”，搞得“骨节酸疼”，但这毕竟是小事。让他寝食难安的是：靠这部分军队抵御内外突发事变是根本不可能的。
直隶军队的文化素质也不高。四月间，他出题考试直隶六军，虽只是很简单的问题，但答非所问者居多。而且，京畿之地，纨绔子弟的作风在军队蔓延，吃喝嫖赌，比外地有过之而无不及。
曾国藩感到问题的严重性，必须改革。但如何改呢？组建湘军式的部队容易招人耳目，用现有的练军也难符其实，曾国藩为此苦苦思索，他让幕僚搞一个初步的方案，阅后也不满意。曾国藩将他过去读过的《畿辅通志》找来，细细翻阅。他要得到点启发，但他仍然很失望，阅读兵制各卷后，“不甚了了”，他责怪说，“不知作者果未得要领乎？抑余不善阅乎？”他再阅一次，仍无所得。曾国藩清楚了，因为该书乃“雍正间所修之志，至今情形亦多不合矣”。
曾国藩只好亲自起草练军的折稿。但困难重重，一是过去的成例，传统不能因循，一因循又入故套；二是另起炉灶属于破例，这又会引起权贵们的不满。因为京畿不比其他地方，如果练成的军队不归朝廷绝对统辖，后患无穷，他将成为朝廷的罪人，他感到左右为难。
五月十四日，曾国藩再次拿起上给朝廷的草拟折稿，但沉思很久，也写不下去，“以练军之事最经难筹办，心无成竹，故文不克就耳。”曾国藩号称晚清善写奏牍的三家之一，这下也难住了。他知道，这是体制的问题。
更困难的是，当时关于直隶练军之事，内外大臣发表了倾向性很强的意见，即不用勇兵。因为勇兵驻于近畿，剿也不能，防也不能，且与居民寻衅滋事，因多主张练兵，而反对养勇。
曾国藩的看法却与此相反，他从湘军、淮军的成功中受到启发，他认为东南募勇多年，良法美意，练军应当参考。五月二十一日，他上了《直隶练军事宜折》，讲了他关于练军的一些改革办法和主张。
不料，曾国藩的改革办法遭到京城权贵的普遍反对。七月二十七日，他的日记中写道：“因闻直隶练兵折为诸津要所不悦，痛加驳斥，心绪作恶。”
曾国藩感打破旧的陈规之难，不在于当事者定志不坚，而在于旁加阻挠者实在太多。八月十七日，他再上《练军事宜折》，先谈了一番用兵之道，不可一味拘泥成法的道理，又驳斥京中要员的种种责难，最后他请求慈禧允准，暂不争论，由他“先行试办”。这也是曾国藩的聪明之处。他避免与诸权贵直接交锋，而是先做不说，只做不说。他在日记中写道：“天下事知得十分，不如行得七分，非阅历何由大明哉！”
经过一年多的努力，曾国藩在直隶练军收到了一定成效。他调任两江总督后，由李鸿章接任此事。同治九年（1870）九月二十七日，曾国藩觐见慈禧，西太后问：“尔在直隶练兵若干？”曾国藩回答：“臣练新兵三千，前任督臣官文练旧章之兵四千，共为七千。拟再练三千，合成一万，已与李鸿章商明，照臣奏定章程办理。”慈禧问：“南边练兵也是最要紧的，洋人就很可虑，你们好好的办去。”曾国藩回答：“洋人实在可虑，现在海面上尚不能与之交战，惟尚设法防守。臣拟在江中要紧之处，修筑炮台，以防轮船。”
可见，无论是慈禧还是地方大员，都普遍认识到练兵对保卫国家的重要性，但限于体制、传统，只能进行小修小补而已。这也是曾国藩不愿在天子脚下为官的原因之一，因为他再抛“砖”，也引不了“玉”，也改变不了什么。
当弟弟率兵收复了两个省之后，曾国藩便给弟弟写了一封信警醒他：
你收复了两省，功绩绝对不能磨灭，根基也极为深固。你只担心不能飞黄腾达，不担心不能安命立身；只担心日子不稳适，不担心岁月不峥嵘。从此以后，你只从波平浪静处安身，莫从掀天揭地处着想。
我也是一个不甘心于庸庸碌碌、无所作为的人，近来阅世，千变万化。所以我一味在平实处用功夫，不是萎靡不振，而是因为地位太高，名声太重，如果不这样，那么处处是危途。
这也是曾国藩的聪明之处。他避免与诸权贵直接交锋，而是先做不说，只做不说。他在日记中写道：“天下事知得十分，不如行得七分，非阅历何由大明哉！”
