按照1954年憲法規定，全國人大設立常委會，地方各級人大不設常委會。當初在草案交付全民討論中，就有意見認為地方人大也需要設立常委會。憲法起草委員會認為地方人大與全國人大不同，地方沒有立法權，工作任務沒有全國人大那樣繁重，而且越是下級的人民代表大會，因為地區越小，就越易于召集會議。因而，1954年憲法實行的是人民委員會體制，規定：“地方各級人民委員會，即地方各級人民政府，是地方各級人民代表大會的執行機關，是地方各級國家行政機關。” 1954年憲法施行后，實踐中的矛盾和問題逐漸顯現：在地方人民代表大會閉會期間，人民委員會行使地方人大常設機關和執行機關的雙重職能，不利于地方人大對行政、審判等機關工作進行監督；地方人大沒有專門的常設機關，無法開展經常性工作，難以發揮地方國家權力機關的作用。1957年和1965年，有關方面曾經兩次提出在地方人大設立常委會的方案，但由于眾所周知的原因都未能實現。十年“文革”內亂期間，人民代表大會制度一度遭到嚴重破壞，從中央到地方的各級人民代表大會幾乎都陷于停滯狀態，社會主義民主法制建設受到嚴重影響。這個教訓極為深刻。

1978年12月召開的黨的十一屆三中全會，實現了新中國成立以來我們黨歷史上具有深遠意義的偉大轉折，開啟了我國改革開放歷史新時期。會議作出把黨和國家工作中心轉移到經濟建設上來、實行改革開放的歷史性決策，同時提出發展社會主義民主、健全社會主義法制，強調為了保障人民民主，必須加強社會主義法制，使民主制度化、法律化，使這種制度和法律具有穩定性、連續性和極大的權威，做到有法可依、有法必依、執法必嚴、違法必究。鄧小平同志深刻指出：“必須使民主制度化、法律化，使這種制度和法律不因領導人的改變而改變，不因領導人的看法和注意力的改變而改變?！币渣h的十一屆三中全會為標志，我國的人民代表大會制度進入了一個新的發展階段。1979年5月，彭真同志根據各方面對地方組織法修訂中有關地方政權組織的意見，提出3個方案向中央報告：一是用立法手續把革命委員會體制固定下來；二是取消革命委員會，恢復人民委員會；三是縣級以上地方各級人大設立常委會（傾向性方案）。鄧小平同志作出明確批示：“我贊成第三方案”。1979年7月，五屆全國人大二次會議通過相關立法，正式確定縣級以上地方人大設立常委會；同時根據發展社會主義民主、健全社會主義法制的要求，充實完善并明確規定了地方人大及其常委會的職權，包括省、自治區、直轄市人大及其常委會制定地方性法規的職權。從1979年下半年到1981年底，全國縣級以上地方人大先后設立常委會。這就使人民在地方人大閉會期間，可以通過人大常委會來行使管理地方國家事務的民主權利，具有重大意義。