截止2020年，吕梁市共有13个县市，其中1个市辖区，10个县，代管2个县级市。1个市辖区是离石区。10个县分别是文水县、交城县、兴县、临县、柳林县、石楼县、岚县、方山县、中阳县、交口县。代管2个县级市是孝义市、汾阳市。
吕梁市位于山西省中部西侧，因吕梁山脉由北向南纵贯全境而得名。西隔黄河同陕西榆林相望，东北与省会太原市相连，东部、东南部分别和晋中、临汾接壤。
吕梁市地处吕梁山脉中段，地势中间高两翼低，吕梁山脉由北而南纵贯全境，平均海拨在1000~2000米之间。主峰关帝山海拨2831米，为吕梁山最高峰。山地两翼丘陵起伏，沟壑纵横，水土流失严重。东部地势平坦，为太原盆地西部边缘，是主要农业区。境内有黄河及汾河、文峪河、湫水河、蔚汾河、三川河穿流，均属黄河水系。