【与刘琨齐名的祖逖也同样有着非凡的经历。
祖逖也是名门望族出身。
洛阳沦陷，永嘉之乱爆发后，百姓和士族们开始衣冠南渡，祖逖也在其中。
正所谓乱世出英雄。
在百姓逃难的途中，一路都是胡人追杀，饥民抢劫，南逃的过程极为艰难。
文武双全的祖逖就在此中发挥出了他的领导才能。
祖逖以自己的亲族为核心力量，将自己所在的流民队伍整合起来，团结自保抵御一切外敌。
并且祖逖对待流民和蔼可亲，把自己的马车让给老弱病人，又把粮食、衣物和药物分给急需的百姓。
逃亡途中多遇盗贼险阻，祖逖每次都能应付自如。
就这样祖逖被同行的百姓们共推为了“行主”，也就是队伍的领袖。
到达南方后，祖逖被琅琊王司马睿任命为徐州刺史，不久又被征为军谘祭酒，率部屯驻京口。
此时洛阳已经沦陷，但长安还在，西晋尚存，司马睿也还不是皇帝。
晋愍帝即位后，命司马睿率兵北上勤王。
但是司马睿正在开拓江南，认为北方沦陷已成定局，根本无意北伐，不愿白白葬送自己不多的兵力。
而在这时，不忍国家沦丧的祖逖自愿请命北伐。
司马睿为了不违抗皇帝命令，于是顺势任命祖逖为奋威将军、豫州刺史，但却只是象征性拨予千人粮饷、三千匹布帛，让他自募兵士，自造军械。
一千人别说北伐了，连抵挡胡人劫掠的零散队伍都费劲。
不过司马睿的消极态度，并未动摇祖逖北伐救国的决心。
祖逖率领跟随自己南下的宗族部曲数百户，毅然从京口渡江北上。
并在大江之中用力拍击船楫，朗声发誓：“祖逖若不能清中原而复济者，有如大江东去，誓不复还！”
这就是“中流击楫”成语的由来。
祖逖在渡江后，暂驻淮阴。
将司马睿给他的那三千匹布帛当军饷，起炉冶铁，铸造兵器，又另外招募士兵两千余人。
经过力所能及的筹备后，祖逖正式开始北伐。
这时的长江以北，黄河以南局势非常复杂。
不仅有胡人四处劫掠，还有许许多多地主豪强和士族，为了自保，这些士族豪强依托自建的坞堡和流民百姓组成一个个散布各处的小势力。
其中有投靠胡人以求自保的，有依然拥护晋朝的，也有谁都不信企图自立的。
这会儿司马睿给予祖逖的官职和官印就起了作用。
靠着朝廷的印信和王师北伐的身份，祖逖沿途收获了不少豪强加入，兵员又增加了数千人。
不过其中也有不肯归附，铁了心想要依靠自己自立的。
比如自封为豫州刺史的张平。
于是祖逖出兵灭了他们，将他们的部众收归自己，壮大力量。
初期的祖逖就是这样不断发展壮大，多次向汉赵和石勒发起进攻，一点一点将北方的失地收复回来，直至黄河以南的绝大部分领土都被祖逖收复。
不过因为兵力有限，东晋朝廷出于提防祖逖等原因，洛阳和长安这两处极具战略意义的故都始终没有收复。
在北伐期间，祖逖最大的敌人就是石勒。
比如祖逖北伐期间获得乞活军的帮助，进攻张平余部。
得胜后祖逖攻占了谯城，终于在豫州站稳脚跟。
而这时的乞活军首领陈川，因为自己的部将李头在祖逖那里立了功，于是为了稳固权力，陈川杀了李头。
李头的亲信冯宠便率所部四百多人投奔祖逖，祖逖遂发兵讨伐陈川。
陈川非常恐惧，便率部投降汉人最大的敌人后赵石勒。
公元319年，祖逖出兵追击陈川。
石勒派石虎率五万大军救援。