畢竟江東之地很遼闊，也不是沒有人打這塊地盤的主意。永嘉四年(310)二月，司馬越手下大將錢璯叛晉造反，在廣陵起兵，欲佔江東。還是那位周處的兒子周圯，自己招兵買馬，聚齊鄉裡，擊敗錢璯。加上以前攻滅石冰，剿滅陳敏，被人稱為&ldo;三定江南&rdo;之功。司馬睿拜周圯為吳興太守。到了永嘉五年，洛陽城破，中原的許多士族都離開故鄉投奔西晉剩下的割據勢力，即西邊的涼州，北邊幽州和江南。司馬睿按照王導所獻計策，一方面從這些士人中廣納賢俊，作為自己的政治力量，另一方面建立威信，使這些士族不敢小看自己。
為什麼說要建立威信呢？前面說過，司馬睿在諸王中的地位很低，又不是司馬家的正統，很多望族都看不起他。比如桓彝就曾經和周頡說：&ldo;像琅琊王這樣的人，怎麼能夠倚仗他恢復晉朝的大業呢？&rdo;
而王導則在江東很有勢力，而且此人很具有演講才能，那些望族士人與王導談論天下大勢，無不被王導說服。桓彝與王導談過幾次話後也對人說：&ldo;這是我們晉朝的管仲啊，我以後不必為晉朝的命運擔心了。&rdo;還有一次眾人在長江的江亭聚會，周頡嘆氣道：&ldo;風景一樣好，可是抬眼只見長江，不見黃河。&rdo;在座的聽了都哭了起來。王導又出來演講道：&ldo;所以大家正應該出力輔助王室，恢復中原。為什麼要像&l;楚囚&r;一樣相對哭泣呢？&rdo;名士們聽了都振奮起來。可見王導在引導輿論方面很有一套。
司馬睿初到建康，南方士族都不理他，過了很長時間也沒有人來求見。王導意識到這個問題的嚴重性，將來重建晉朝，還是要依靠這批士族的。正好王敦來朝，王導對他說：&ldo;琅琊王仁德雖厚，名威尚輕，你的威風已振，應該有所匡助。&rdo;兩人商量之後，安排在三月初三上巳那天，讓司馬睿肩輿出巡，王敦、王導以及北方名士騎馬隨從。隆重的儀仗，威嚴的行列，使南方士族體會到司馬睿就是北方士族擁戴出來的江東之主。於是&ldo;江南之望&rdo;的顧榮、紀瞻等都很驚懼，相率拜於道左。
王導趁此對司馬睿說：&ldo;古來想要成王霸之業的，莫不禮敬故老，虛心求教，以招攬賢俊，何況當前天下變亂，大業草創，更加急需人才！顧榮、賀循是南方士族的首領，如果招來這兩人，其餘的人自然沒有不來的。&rdo;
司馬睿使王導親自去招顧、賀，二人應命來見，分別任命為軍司馬和吳國內史。司馬睿有一次對顧榮說：&ldo;寄人國土，時常懷慚。&rdo;榮跪對說：&ldo;王者以天下為家，殷商從耿遷毫，東周由鎬及洛，古來如此，願陛下勿以遷都為念。&rdo;從兩人的問答語中可以窺知，雙方已有某些合作的默契。從此，南方士族歸附，成為未來東晉政權的一個構成部分。
司馬睿得到情況說石勒準備南攻，急忙整兵，以紀瞻為都督，帶重兵鎮守壽春。
到了永嘉六年春季，江淮發了水災，大雨下個不停。石勒的軍營全部被水淹，糧食都長了毛，後勤運輸也極為不便。石勒軍中斷了糧，並且瘟疫流行，有一大半士卒都得了病，很多人病死。這時晉軍趁勢來襲，右長史刁膺勸石勒向晉朝請降，請晉軍退兵。石勒手下大將都是久經戰陣的人，一齊斥責刁膺，向石勒請戰。大將孔萇道：&ldo;我們沒有糧可以搶晉軍的糧，我們的地方被淹可以佔晉軍的城。只要將軍下令，不出半年，必破晉軍。&rdo;
石勒問張賓該怎麼辦，張賓道：&ldo;您攻陷了洛陽，把晉朝的天子捉到平陽去，把晉朝王公都殺死，把晉朝皇帝的後宮妃子全部掠走。您對晉朝來說，就是拔光頭髮，也不足以數清您的罪過啊。您怎麼能夠去投降晉朝呢？其實