下你父亲手里就有大兵数万，你们如能举旗，民众必响应
进取入关，号令天下，不到半年必成大业”李世民听完后，更加坚定了反隋的决心而这次牢房会晤之后，刘文静也成为了李世民的绝对心腹
公元617年，李渊与刘文静在晋阳起兵反隋，史称“晋阳起兵”
关于晋阳起义，根据《大唐起居注》和《两唐书》的记载，对于李渊和李世民谁是首谋有着不同的说法，但无论怎样，刘文静作为太原举兵预谋阶段的核心人物是毋庸置疑的
在李唐创业的过程中，刘文静作为元从功臣，身兼谋士、外交官、将领多个角色，可谓居功至伟
在举兵起事之前，李渊曾面临一个巨大的难题当时隋炀帝虽然任命李渊为太原留守，但对他并不放心，所以派王威、高君雅二人作为副将监视他而李渊想要起兵，首先就要铲除他们于是，刘文静担负起了这个职责，设计处死了二人
此外，当时天下虽然群雄并起，但许多人并无大的志向，只图据地自保，或是瞻前顾后，犹豫不决一个明确的政治方向无疑是成功的关键所在
对此，刘文静把自己的狱中对策细化，制定了“进取入关、号令天下”的战略李渊根据这个战略，以入关夺取长安为军事目标，以开创基业、取代隋朝为目标，一步步按部就班地执行
李渊在晋阳起兵之后，开设大将军府，刘文静担任大将军府司马，裴寂担任大将军府长史
刘文静敏锐地指出，李渊的军事行动虽然浩大，但北方的突厥却是心腹之患因此，他主动请求前往突厥，为李渊解决这个麻烦
到达突厥之后，刘文静靠着三寸不烂之舌，成功说服始毕可汗与李渊合作
他既解决了李渊老巢晋阳的后顾之忧，又带回了2000匹战马和数百名突厥骑兵，可谓功德圆满
李渊围攻长安时，刘文静又担任将领的角色，负责防守隋朝大将屈突通
当时，刘文静认为潼关是战略要地，因此将大军转移到潼关以西，企图与隋军大将桑显和交战刘文静率众顽强抵抗，随后乘敌军松懈之际，派遣大军绕道，直接击溃了隋军主力
屈突通见势不妙，准备逃奔洛阳，刘文静率军在后面彻夜追击，最后成功俘获屈突通，为唐军最终攻下长安立下汗马功劳
武德元年（618年），李渊接受杨恭仁的建议，建立唐朝，是为唐高祖刘文静被任命为尚书右仆射，成为宰相他作为太原元谋功臣，还与秦王李世民、裴寂一同得到“免死”的特权，相当于获得两张免死金牌
然而，武德二年（619年），刘文静随李世民镇守长春宫刘文静才能在裴寂之上，且屡建军功，但地位却远不如裴寂他心中不平，在议论朝政时与裴寂对立
于是，昔日的好友也成为了仇人后来