大婁山位于貴州省北部，為東北—西南走向，呈現向南東凸出的弧形。大婁山西起畢節，東北延伸至四川，在貴州境內的一段長約300公里，寬約150公里，海拔1500—2000米，相對高度常達500米，是烏江水系和赤水河的分水嶺，也是貴州高原與四川盆地的界山。

大婁山系由三支并列的山脈組成：西支位于桐梓與習水之間，呈東北—西南走向，南起四川古藺，經貴州而北入四川綦江，海拔1300—1500米，在貴州境內的最高峰1661米，是習水河與桐梓河的分水嶺。中支由仁懷經桐梓、松坎而向北延伸至四川，是綦江與芙蓉江的分水嶺，海拔1400—1600米，常有1900米以上的高峰，在貴州境內的最高峰是箐壩大山，高2028米，山勢南陡北緩而成不對稱山嶺，從箐河谷仰望婁山，懸崖絕壁，十分險峻。東支位于桐梓、遵義之間，由金沙向東北延伸至四川，是芙蓉江與洪渡河的分水嶺，有一系列海拔在1600米以上的山峰，該支脈在貴州境內的最高峰仙人峰，高1795米。婁山關正處于大婁山主脈的脊梁上，是一個沿裂隙溶蝕而成的隘口，海拔1226米，關口周圍懸崖絕壁，山峰均高達1400—1600米，東西兩側為大小尖山鎖峙，南北是高差為400米的峽谷。

大婁山臨近四川盆地邊緣的北坡較陡，位于高原上的南坡較緩，山嶺切割強，相對起伏常達500—700米，但山脈的構造脈絡清晰，常有山間盆地分布。由于大婁山受長期侵蝕和多次間歇性構造抬升，還形成了800—1000米、1100—1250米和1400—1500米三級夷平面，大婁山期和山盆期兩級是最顯著的剝夷面。又因碳酸鹽巖廣布，喀斯特地貌發育，洼地、溶斗、暗河、溶洞普遍，以溶丘洼地、溶丘谷地、高原丘陵地貌景觀最典型。