出狂言說：“造反才能像這樣生活，英雄好漢就要堅守志向，一起死在溪谷山溝也在所不辭。如今倉庫裡堆積的粟米都要爛了，誰敢跟我去拿來？”這班人都贊同響應。他跟同郡的張萬歲等十多人瞅準王仁恭正在處理公務，劉武周假裝去稟告事情，張萬歲從背後溜進來，在郡廳斬殺了王仁恭。拿著他的首級到號令全城，事先約好的各路豪傑也一起動手，沒費什麼力氣就控制了局面。於是他下令開倉放糧救濟貧苦百姓，在郡內傳送快報，所屬各縣都歸附了他，得到士卒一萬多人。劉武周當仁不讓，自稱太守。參加這次起義的還有後來上了凌煙閣唐初大將尉遲恭。
劉武周起兵的當月，雁門郡承陳孝意、虎賁將王智辯就領兵前來平叛，包圍了劉武周轄下的桑乾鎮。這時馬邑全郡僅有兵力萬餘人，靠這點實力是不足以自保的。為此，劉武周派出使者向東突厥稱臣表示歸附。
馬邑和雁門是隋朝抵禦突厥入侵的北方最前線，突厥多次進攻都被守軍憑藉地勢和城防擊退，忽然馬邑自己要求歸順，而且又是和雁門守軍衝突，如此理想簡直就沒有理由拒絕。東突厥立即派出援軍，配合劉武週一同發起反擊，結果雁門軍潰敗，狼狽逃回雁門。有了突厥這個靠山。劉武周乘勝大舉擴張，三月，佔領樓煩郡，又攻克了楊廣的行宮汾陽宮。俘獲了大批珍寶和宮女，劉武周就用俘虜的美女珠寶進貢東突厥始畢可汗。
攻克汾陽宮是劉武周第一個大勝利，其意義非同小可。汾陽宮是皇帝的行宮之一，代表皇帝的尊嚴。宮內的美女更是皇帝名義上的妾侍，絕對不能得罪，劉武周居然佔領了皇帝的整個行宮。甚至將皇帝的女人當禮物送給了突厥，這從任何角度看都是與大隋皇帝勢不兩立，也是用行動向東突厥表示了高度的效忠。始畢可汗大喜之下，立劉武周為定揚可汗，並把有狼頭圖徽的大旗送給他。突厥人是以狼為自己的象徵，送劉武周狼頭纛那是表示拿他當自己人了。受此鼓舞，劉武周意氣風發，索性就自稱皇帝，把妻子沮氏封作皇后，年號定為天興。同時任命衛士楊伏念為左僕射，妹夫同縣人苑君璋為內史令建立政權。
這時劉武周的地盤還只有馬邑、樓煩兩郡，於是剛做皇帝的他就努力擴大地盤，全力進攻雁門郡。郡丞陳孝意堅守雁門，拒不投降。雁門城防堅固，易守難攻，當年始畢可汗親自領軍將楊廣圍困於雁門，猛攻31天，雁門城始終巍然不動，最後在隋朝勤王兵馬趕到後，突厥軍不得不主動撤退。面對如此堅城，劉武周也無可奈何，陳孝意又不時主動出擊，倒讓劉武周吃了幾次敗仗。不過主動權始終還是在兵強馬壯的劉武周手中，劉武周也不強攻，只將城緊緊包圍，意圖困死雁門守軍。陳孝意多次派人突圍求救，但是皇帝楊廣遠在江都，陳孝意的上級李淵又心懷叵測，根本沒人理他。圍困一百餘天后，雁門終於糧盡，陳孝意本人是絕對的忠臣，誓死守土，但他的部下們並不都願意隨他殉國，眼看糧盡援絕，部將張倫就暗了殺陳孝意，開城投降。
此時的劉武周已經不是剛起兵時的區區萬餘人馬了，可以稱得上兵強馬壯，其勢力在北方一時稱雄。勢力大了之後，劉武周也是有煩惱的，煩惱的就是他的主要部將都是當年的馬邑土豪，沒有那種天下格局、統帥一方的高階軍事人才，直到有大將之材的宋金剛投靠了他。
宋金剛原是河北的一支義軍首領，部下有萬餘人。當時河北最大的兩支勢力是竇建德和魏刀兒，宋金剛是魏刀兒的結義兄弟，自然屬於魏刀兒的勢力。同在河北混的竇建德和魏刀兒終於一山難容二虎而發生火併，竇建德假裝結盟麻痺住魏刀兒，然後突然襲擊將魏刀兒擒殺。宋金剛在得知結義兄弟遭竇建德偷襲，立即起兵去救，但到達時魏刀兒已戰敗身亡，宋金剛的救援部隊也被竇建德擊敗，只餘四千人逃走。竇建德非常欣賞宋金剛的才能，派人前往招降，