隋文帝即位以后，认真总结了自己能够统一全国，登上帝位的原因。他觉得自己实力强大是一个方面，但陈后主的奢侈残暴也帮了他的大忙。因此，隋文帝惟恐重蹈陈后主的覆辙，极力提倡节俭治国，实行廉政以安抚民心。
杨坚像隋文帝首先从自己的后宫生活做起。他节俭朴素，很少大摆筵席，自己乘坐的车马、身穿的衣服，也不求华贵，只求简朴实用。整个后宫在隋文帝的带动下，都开始崇尚节俭。有一次，隋文帝配药，要用到一些胡粉，但他竟然找遍整个后宫，都没有找到。关中闹饥荒的时候，他看到百姓们吃糠拌豆粉，就拿来给大臣们看，责备自己没有治理好国家，下令饥荒期间自己和文武百官都不许吃肉。
隋文帝时常教导太子说：“自古以来，没听说奢侈腐化而能长治久安的。你是太子，应该注意节俭。”他还十分注重皇亲国戚的行为，他们要是犯了法，也一律严惩。隋文帝的三儿子秦王杨俊觉得自己是皇子，又在灭陈的时候立下了战功，生活越来越奢侈。他模仿皇宫建造自己的宫殿，用外国的香料涂抹墙壁，还搜罗许多美女，日夜寻欢作乐。隋文帝知道了以后，非常生气，把杨俊革了职，还将他囚禁了起来。杨俊不久就得病死了，他手下的人请求隋文帝给杨俊立个碑，隋文帝也不同意，还下令把杨俊宫中的华丽装饰全部毁掉。
隋文帝对皇亲国戚、百官大臣们很严格，但对百姓却非常体恤。有一个叫王伽的小官押送70多个犯人去京城。在路途中，王伽见犯人们戴着枷锁，忍受风吹日晒，实在痛苦，就把他们的枷锁去掉，与他们约定时间，在京城集合。约定的时期到了，犯人们果然在京城聚集，一个都不少。隋文帝知道了这件事后，马上召见王伽，对他大加赞赏。还把犯人们招进宫里，设宴款待，并赦免了他们的罪行。随后，隋文帝又下了一道召令，让全国官吏向王伽学习，用感化的办法管理百姓。
由于隋文帝的廉政和百姓们的辛勤劳动，隋朝的经济很快繁荣起来。朝廷的仓库装得满满的，一直到隋朝灭亡后20年，隋朝仓库里的粮食还没用完。
