1976年1月10日，根据国务院决定，撤销了原乌达市和海勃湾市，正式成立了乌海市，成为内蒙古自治区直辖市，同时下设乌达、海勃湾、拉僧庙三个办事处。1980年1月1日，根据自治区革委会《关于乌海市设市辖区问题的批复》，将三个办事处分别改设为乌达区、海勃湾区、海南区。1981年6月，三个区先后召开了乌海市成立以来的第一次人民代表大会，并建立了常务委员会。同年12月17日，乌海市首届人民代表大会第一次会议召开，选举产生了市人民代表大会的常设机关---乌海市人民代表大会常务委员会。地方人大常委会的设立，从组织和制度上进一步健全了我国人民代表大会制度体系，极大丰富了人民代表大会制度的内涵，成为我国社会主义民主法制建设规范化、制度化、法律化的标志之一。

1982年1月，乌海市人大常委会设立办公室和调查研究室。1984年6月，乌海市一届人大常委会第十二次会议决定撤销调查研究室，设立政治法律、财政经济、教育科学文化卫生3个工作委员会，作为乌海市人大常委会的工作机构。同时，决定设立乌海市人大常委会代表资格审查委员会。1987年5月，乌海市二届人大常委会第十五次会议，决定撤销3个工作委员会。同年5月，依照《地方组织法》的规定，乌海市二届人大四次会议决定设立法制民族、财政经济、教育科学文化卫生3个专门委员会。各专门委员会在市人大及其常委会的领导下，在研究、审议有关议案，听取并审议市政府及其有关部门、法院、检察院的工作汇报，开展调查研究，提出建议和意见，协助市人大及其常委会依法履行职权等方面，发挥了重要作用。2001年10月，乌海市人大常委会增设选举任免代表联络委员会，3个专门委员会挂常委会工作委员会的牌子，常委会办公室改为办公厅；2008年乌海市人大常委会增设环境资源和城乡建设工作委员会；2015年乌海市人大常委会被赋予行使立法权，特增设专门从事立法工作的法制工作委员会，并在2016年2月召开的市八届人大五次会议上成立了市人大法制委员会；2015年适应人大工作发展需要，为规范常委会下设机构，根据自治区、市编委批复，将原法制民族工作委员会更名为内务司法工作委员会。