根据孙中山的大上海计划，民国十七年（1928年）国民政府设立上海特别市，扩大市区范围包括上海、宝山县的一部分，设立17个区，而上海地区各县则仍属江苏省，从此上海市与上海县分离。城市范围东达浦东，西至静安寺、徐家汇，南趋龙华，北达宝山路底。 [18]  民国十七年（1928年）春，上海特别市宣布租界为特别区。7月，接收上海县属上海（沪南）、闸北、蒲淞、洋泾、引翔港、法华、漕河泾、高行、陆行、塘桥、杨思和宝山县吴淞、殷行、江湾、彭浦、真如、高桥等17市乡，为上海特别市的实际境域，面积494.69平方公里（不含租界）。并改17市乡为17区，上海始有区一级建置。上海地区的上海、嘉定、宝山、松江、川沙、青浦、南汇、奉贤、金山、崇明10县仍隶属江苏省。民国十九年（1930年）7月，上海特别市改称上海市。

民国二十六年（1937年）11月，上海沦陷。次年12月，江苏省川沙、南汇、奉贤、崇明、宝山、嘉定等县和上海县浦西地区划归汪伪上海市政府管辖。民国三十二年（1943年）7月30日和8月1日，汪伪国民政府宣布“收回”公共租界和法租界。民国三十四年（1945年）11月24日，国民政府外交部宣布接收上海公共租界、上海法租界，历时百年的上海租界结束。（上海都市图集的图册资料来源 [19-21]  ）民国三十七年（1948年）12月上海市划分为30个区。

解放（1949年5月27日）后，成立上海市人民政府，设黄浦、老闸、邑庙、蓬莱、嵩山、卢湾、常熟、徐汇、长宁、普陀、闸北、静安、新成、江宁、北站、虹口、北四川路、提篮桥、杨浦、榆林等20个区和新市、江湾、吴淞、大场、新泾、龙华、洋泾、真如、高桥等10个郊区。同时，上海的郊县划入苏南、苏北行署，后由江苏省管辖。1949年10月1日，中华人民共和国成立。上海仍为中央直辖市。上海市划分为20个市区和10个郊区。

1956年经过行政调整，上海市辖区减为18个，辖15个市区和3个郊区。1958年，为了适应城市发展的需要，将江苏所属上海地区的郊县划入上海市，至此，上海市辖黄浦、邑庙、蓬莱、卢湾、徐汇、长宁、普陀、闸北、新成、江宁、虹口、提篮桥、杨浦、榆林等14个区，浦东、嘉定、宝山、上海、崇明、松江、奉贤、南汇、青浦、川沙和金山等11个县，总面积达6340.5平方公里，比建国初大十倍以上。1960年1月，撤消邑庙、蓬莱设立南市区，有12个区和11个县。1960年3月，浙江省舟山县嵊泗人民公社划属上海市。1961年上海市辖12区、10县。1962年嵊泗又划归浙江省。1964年，撤消闵行区与吴淞区，此后上海保持了10个区和10个县不变达10余年之久。

文化大革命结束后，1980、1981两年，再置吴淞区与闵行区。1988年，撤消吴淞区和宝山县改为宝山区。1992年，撤消嘉定县，设立嘉定区。为进一步改革开放，1993年撤消川沙县，将其境域与黄浦、杨浦、南市的浦东地区和闵行的三林乡合并设立浦东新区。同年，撤消上海县和闵行区，组建新的闵行区。1995年，上海市辖浦东新区、徐汇、长宁、普陀、闸北、虹口、杨浦、黄浦、南市、卢湾、静安、宝山、闵行、嘉定等14区和南汇、奉贤、松江、金山、青浦、崇明等6县，有106个街道、208个镇、10个乡和3590个居民委员会、2986个行政村。面积6340.5平方公里，其中陆地面积6218.65平方公里、水面积697平方公里。 [22] 20世纪末，松江县、青浦县和金山县也改为区。