境內(nèi)地域歷史上東部屬于閩縣，西部屬于侯官縣，民國時統(tǒng)歸閩侯縣管轄。

1929年在今洪山鎮(zhèn)的西部就設立凈土、豹屏、西湖、豐樂等鄉(xiāng)，1940年上述4鄉(xiāng)合并為凈屏、西豹兩鄉(xiāng)，此2鄉(xiāng)所轄的地域即今洪山鎮(zhèn)的中心地帶。

中華人民共和國成立之初，在今洪山鎮(zhèn)和新店鎮(zhèn)的地域上設立洪山區(qū)，1952年，洪山與新店分兩區(qū)，隸屬于郊區(qū)行政辦事處。

洪山區(qū)下轄團結、五鳳、長汀、祥板、梅峰6鄉(xiāng)和西洪、洪山兩鎮(zhèn)。

1953年，西洪、洪山兩鎮(zhèn)合并。

1955年洪山區(qū)撤銷，所轄鄉(xiāng)鎮(zhèn)隸屬郊區(qū)行政辦事處。

1958年成立市郊區(qū)人民公社洪山分社（次年改為公社），下轄興園、大鳳、鳳湖、長汀、祥坂、西郊、晨光、國光、保福、梅峰10各生產(chǎn)大隊。

與此同時，高橋、水部、東門、西門、華大、公正等今洪山東部也組成鼓樓農(nóng)業(yè)人民公社。

1960年3月至1961年6月洪山人民公社一度撤銷。

1970年洪山公社與紅衛(wèi)公社（原鼓樓公社）合并，名為紅衛(wèi)公社，屬紅衛(wèi)區(qū)（鼓樓區(qū)）管轄，高橋、東門、水部、西門、華大、公正、紫陽等村納入轄內(nèi)。

1975年紅衛(wèi)公社劃屬蔬菜區(qū)管轄，原屬新店公社的溫泉、泉塘、五鳳等村納入轄內(nèi)。

1981年復稱洪山公社、1982年復歸郊區(qū)管轄。

1984年撤社建鄉(xiāng)，同時生產(chǎn)大隊改為村民委員會。

1992年洪山鄉(xiāng)改制為鎮(zhèn)。

1996年歸屬鼓樓區(qū)。