刘虎率兵攻晋阳，牵制刘琨，不料久攻不下。

刘虎本姓赫连，字乌路孤，匈奴铁弗部首领。生得虎背熊腰，浓眉阔眼，他杀伐果断，性情粗暴，见壶关其余几路都胜利了，只有他毫无进展，禁不住红了眼。

命人多造云梯和攻城塔，城墙之上，不停有胡兵爬上去。又被砍下来，坠落之势跟下饺子差不多。刘虎在后面督战，有敢后退畏战者，杀无赦。士兵上去一批，死一批。死伤尸体层层叠叠，城下堆积如山，就是攀登不上城墙。

晋阳虽然被围得水泄不通，城里守军也不多，因为都被刘琨派出去，支援壶关了，几乎就是一座孤城。但是军民一心，奋起反击，愣是把刘虎防得无机可乘。

此时刘聪结束了阻击任务，全歼了王旷的救援之兵，一直杀到晋阳城下，支援刘虎。他就不信了，在他印象里，晋军个个贪生怕死，都是酒囊饭袋，怎么这个刘琨如此难搞？况且城外之兵是城内守军的数倍之多。

他准备了大量投石机，破坏城墙和城门，兵士被催促日夜攻城，不给刘琨喘息之机。刘琨这边严防死守，滚木礌石，纷纷而下；箭矢如簧，暴风骤雨一般飞向敌人士兵，老百姓拆了城中的民居，把石头运向城头，不停投掷，砸向胡人、胡人士兵头破血流，哀嚎不已，摔下攻城云梯。晋军更兼泼油点火，把胡人士兵烧得皮肉皆焦。