众皆说要取大城，必取上党。在左国城南部有两座名城，西边是平阳（临汾），东面是上党（长治）。
上党地势高，号称“与天为党，故曰上党”。中国有些古称都是从夏朝传来。太行本不高，可是夏商人就那点眼光。曹ca的《苦寒行》说：北上太行山，艰哉何巍巍！车轮为之摧，延颈长叹息。怎么样？比李白的《蜀道难》如何？
所以太行也不高，上党更不高，可他确实是古代的军事名镇，也算易守难攻。战国的长平之战，就是因争上党而战。更重要的是上党东部有一座名关，此关正是壶关。壶关在晋是并州入中原的最重要的道路关卡，东窥邺城、邯郸，是进可攻，退可守的军事要隘。
以上党为基地，最大的好处是地利好，可以睡个安稳觉；再次就是能和石勒、王弥连成一体。
可是刘渊却不想去上党，找个大点的基地，除了发展需要，还有一个重要原因，就是睡个安稳觉。可是上党是并州最南的郡，是并州除晋阳以外最重要的城池，还是刘琨和大晋朝廷联系的最近路线，刘渊若攻占上党，刘琨必与之拼命。这是刘渊不愿意看到的。刘琨在不借助北方鲜卑的力量下，无法出战刘渊。但是刘渊要把所有的可能性都要考虑到，他知道如果自己逼得太紧，刘琨早晚会把鲜卑兵派来。
刘渊希望先打平阳（临汾），打平阳最大的好处是：当时平阳并非归并州所属。向南迁入平阳，将出离刘琨的辖区。当时的平阳归司州所属。司州是大晋直隶的州，京师洛阳正在司州。司州最北为平阳郡，最东为邺城，是大晋人口最多的州。
东海王在豫州指挥平定石勒、王弥，平阳没有强军。刘渊力排众议，先打下平阳，再东攻上党。打通和王弥、石勒的联系。
刘渊出并州攻平阳，是非常现实的。从地理上讲，上党最好，可是上党对并州刘琨来说太重要。后来双方在数年里激烈争夺上党。上党数易其主，谁也不能完全控制上党。
刘渊定下出兵南攻平阳之策，就要求大练兵众，准备攻城器械。安排妥当，就问文武还有什么事要说。
刘聪便问：“前时，刘琨偷袭我们，有百员伤兵被我俘虏，如今他们伤愈，如何安排这百人？”
刘渊冷笑道：“把他们放走。当初刘琨入并，放了我们去阻击他的人。有些杂胡才去投靠他。把他们放走，让他们知道，我们也不会亏待他们。”
刘聪遵命。刘曜听完，也上前禀报：“父王，您派去联络刘虎的人已经回归。刘虎说他在刘琨地盘包围之中。不得已只有表面臣服刘琨，不过将来您与刘琨决战并州，他必倾向我们。”
刘虎部也属于匈奴五部，但他部却在新兴（忻州）一带放牧。因在晋阳以北，在刘琨完全控制的地盘之中。被迫在表面上臣服刘琨。一百年之后其直系后人赫连勃勃天王建立胡夏国。《新