“弘农杨氏”世任高官，是汉、魏、北朝至隋唐时期最著名的门阀世族之一。杨坚就出生在这个家庭里。杨坚的父亲杨忠久经沙场，屡建奇功，为北周的建立做出过卓越贡献。因此，杨忠被赐姓普六茹氏，位至柱国、大司空，封隋国公。杨坚的青少年时期并无过人之处，在学校里念书时也是个不用功的学生。
但这个不用功的学生很早就开始了自己的做官生涯，而且深得统治者的赏识，虽无杨忠突出的功绩，地位却扶摇直上，因而引起一些朝臣和贵族的嫉恨。北周初年，专权的宇文护就曾多次想除掉杨坚，都因别人的阻拦而没有得逞。周武帝亲政后，宇文宪曾劝他尽早把杨坚除掉，内史王轨也认为杨坚有反相，但都没引起周武帝的重视，且又以杨坚的长女作为皇太子王妃，进一步巩固了杨坚的地位。
这时，深知自己处境也有不臣之心的杨坚，也积极利用已有的社会影响，广泛拉拢，以扩大自己的势力。公元578年，北周武帝死，宣帝即位，杨坚作为皇后的父亲，又进一步升官，成为太后丞、右司武，旋升大前疑(相当于丞相)。在宣帝外出时，由杨坚主持日常政务。
周宣帝虽年少，但昏庸荒淫，又修建洛阳宫，致使上下怨愤。杨坚便开始做取代周室的准备工作，引起了周宣帝的警觉，甚至曾想杀掉杨坚，但杨坚始终不动声色，周宣帝既找不到借口，也不愿随便杀死自己的岳父。
杨坚为逃避周宣帝的猜疑，想暂时离开朝廷，到地方上去执掌实权，自己的同学内史上大夫郑译很清楚杨坚的这种想法。因此郑译在公元580年周宣帝决定南伐时，乘机推荐杨坚为扬州总管。
但大军未出，周宣帝就已病死，年仅8岁的周静帝即位。杨坚凭着皇帝外祖父的地位，在皇帝侍臣刘昉、颜之仪及郑译的帮助下，伪造周宣帝遗诏，命杨坚为假黄钺、左大丞相，执掌了北周军政大权。杨坚深知自己的地位还不巩固，需要采取一系列措施。
首先是建立自己的统治核心。杨坚是在刘昉、郑译等人的拥戴下才得以上台的，但杨坚不愿让他们分割自己的权力，在亲信李德林的支持下，杨坚拒绝了他们的要求，而把他们置于自己的控制之下。同时，杨坚还注意搜罗各种人才，以前周武帝称为“天上人”的中原名士李德林，对杨坚派来的使者表示，“愿以死来报答丞相”。富于谋略的文臣高颖，对杨坚使臣说：“我愿意为杨丞相效劳出生入死，即使因此遭到灭族之祸也在所不惜”。朝廷重臣韦孝宽，掌握数十万精锐部队的李穆，大将军元弘、元胄，御林军首领卢贲，以及相当多的高级官员都加入了杨坚的政治集团，这些为杨坚夺取北周政权提供了方便。
由于宇文泰的五个儿子：赵王宇文招、陈王宇文纯、越王宇文盛、代王宇文达、滕王宇文道在外称王，各霸一方，还有许多皇戚旧臣拥兵自重。杨坚信心不足，犹豫不决。他的妻子独孤氏见丈夫无心茶饭，郁郁不乐，便鼓动丈夫大胆地干下去，并果断地说：“现在事已如此，你就像骑在老虎背上一样，十分危险，下来必然会被老虎吃掉你千万不可优柔寡断，要振奋起来，干到底才有出路！”妻子的一席话，使杨坚坚定了信心。他果敢地着手实施。
杨坚先指使人将与他平起平坐的宇文赞诱骗放弃权力，然后在还没有公开宣帝的死讯时，借口召五王回长安，收缴了他们的兵权印符。五王气愤之下，决定寻找直接刺杀杨坚的机会。有一次，赵王宇文招请杨坚去赴宴。他先在王府中埋伏下武士，对两个儿子悄悄嘱咐了几句，杨坚带着随从来赵王府的时候，所带随从均被挡在外面，只有杨弘与元宵跟进去，并且只准坐在门口。
赵王向杨坚又敬酒又夹菜，十分客气。过了一会儿，赵王的两个儿子捧着一盘甜瓜请杨坚吃，赵王解下佩刀，切开甜瓜，递给杨坚，右手老攥着那把佩刀。元宵在门外见形势不对劲，闯进屋对杨坚说：“还有许多事情等着丞相处理，请你赶快回去吧！”催杨坚赶快脱身，杨弘强行拉杨坚离开座位，赶快出门，赵王起身追了上来，后面武士也跟了上来，元宵用身体挡住大门，不让赵王出去，杨坚于是安全回到丞相府。
杨坚随后就以谋反罪杀死宇文招、宇文道，其他三王也很快被除掉。宇文氏的势力基本被消灭。然后，杨坚宣布废除周宣帝时的严刑峻法，停止洛阳宫的营建，以此取得广泛支持。这样，杨坚在京师的统治已基本稳固。同时，杨坚又分别将地方上的军阀尉迟迥、王谦、司马消难等人的叛乱平定，升任隋王，并废左、右丞相设置，只设大丞相，不久改称相国。为进一步削弱宇文氏的影响，废除所有对汉人的赐姓，令其各复本姓，这一措施得到汉人的普遍拥护。
公元581年，杨坚派人为周静帝写好退位诏书，逼周静帝退位，然后在百官的劝进下假意推辞，然后迫不及待地穿上了黄袍，登上皇帝的宝座。
