据境内古文化遗址出土文物考证和史籍记载，远在新石器时代，乳山境内就有人类居住。

夏，地属嵎夷，亦称东夷。

商时，属青州。

西周时，属莱国。

春秋时期，先后为齐国莱地、牟子国地。

秦代，属齐郡腄县（治所在今烟台市福山区古现村）。

西汉高祖四年（前203年），置育犁县（治所在今育黎镇城阴村南），此为境内第一次置县，属青州东莱郡。

东汉建武五年（29年），育犁县并入东牟县。

三国时，属魏国青州长广郡东牟县。

西晋时，属青州东莱郡牟平县。

北魏时，属光州东牟郡观阳县（治所一说为今牟平观水，一说在今海阳发城）。北齐天统四年（568年），由牟平县、观阳县析置文登县，境域改属光州长广郡文登县。

隋开皇十六年（596年），改属青州东莱郡观阳县。

唐武德四年（621年），属河南道登州东牟郡观阳县。贞观元年（627年），改属莱州文登县。麟德二年（665年），属登州牟平县。

五代因之。

宋时，属京东东路登州牟平县。

金时，属山东东路宁海州牟平县。

元初，属益都路宁海州牟平县。

明洪武元年（1368年），牟平县省入宁海州，属山东省登州府宁海州。

清雍正十三年（1735年）置海阳县，境内原属宁海州的乳山乡全部（辖于疃社、石山社、野子社、玉泉社、宽洪社、龙山社、登宁社、邵村社、桃花社）和城阴乡的鲁济、兴善两社划归海阳县，其余仍归宁海州。

中华民国三年（1914年），宁海州改称牟平县，境内分属山东省胶东道（民国十七年改称东海道）牟平、海阳两县。民国二十五年（1936年），分属山东省第七行政区牟平县、海阳县。民国三十一年（1942年）9月，牟海县全境解放，改属胶东行政区东海专区。民国三十四年（1945年）1月26日，牟海县更名乳山县（以境内南部的大乳山命名），隶属不变，并确定夏村为县城。

1950年5月，胶东行政区撤销，东海专区改为文登专区，乳山县属之。1956年3月，文登专区撤销，乳山改属莱阳专区。1958年12月，撤销乳山县，原所辖育黎、崖子、午极、冯家、诸往、石头圈、下初、上册8个公社划归烟台市（1959年11月划归新复设的牟平县），夏村、乳山寨、白沙滩、唐家、海阳所5个公社划归海阳县，南黄、洋村公社划归文登县。

1961年10月5日，恢复乳山县，隶属烟台专区。翌年1月1日，县人民委员会正式挂牌办公。1983年8月，烟台专区改为省辖烟台市，乳山县隶属烟台市。1987年6月，威海市升为地级市，乳山县改属威海市。

1993年7月17日，撤销乳山县，设立乳山市（县级），以原乳山县的行政区划为乳山市的行政区划。8月8日，市政府正式挂牌办公。